Google собирается предотвратить восстание роботов

Из-за активного развития технологий машинного обучения, искусственного интеллекта и робототехники многие специалисты высказывают свои опасения касательно возможности так называемого восстания машин. Не в последнюю очередь это связано с тем, что во многочисленных фантастических рассказах и фильмах роботы подчиняли себе человечество или же вовсе уничтожали людей по той или иной причине. Чтобы этого не произошло, два крупнейших разработчика в области искусственного интеллекта решили объединить свои усилия. Речь идёт о компаниях DeepMind, принадлежащей Google, и Open AI, основанной Илоном Маском — создателем SpaceX и Tesla Motors.

DeepMind

DeepMind и Open AI опубликовали исследовательскую статью, в которой описывается новый метод машинного обучения. Его суть заключается в получении сигналов от людей для изучения новых задач. Специалисты считают, что это должно быть безопаснее, чем позволять искусственному интеллекту самостоятельно решать ту или иную задачу, что может привести к неожиданным последствиям.

По мнению исследователей, главная проблема заключается в том, что искусственный интеллект использует наиболее эффективный метод для достижения максимальной выгоды. Это сравнимо с тем, чтобы сгрести все разбросанные вещи с пола в шкаф и назвать эту комнату чистой. Чисто технически комната действительно является чистой, но это не тот результат, который требуется. Машины способны находить такие обходные пути и использовать их для решения любой проблемы.

Open AI

Насущная проблема заключается в системе вознаграждений. Именно в этом направлении обе компании сосредоточили свои усилия. Вместо того, чтобы создавать чрезмерно сложную систему вознаграждения, которую могут обойти машины, исследователи использовали человеческий вклад для вознаграждения искусственного интеллекта. Когда машина решает проблему, как этого хотели тренеры, она получает положительный отзыв. С помощью этого метода система смогла научиться играть в простые видеоигры.

В DeepMind и Open AI только начали работать в этом направлении, но компании считают, что контроль со стороны человека поможет предотвратить нежелательные последствия решений, принятых машинами.

 

1 star2 star3 star4 star5 star (1 голос, среднее: 5,00 из 5)
Загрузка...
Безопасность и баги

 

Комментировать!

Вам понравится

Google запускает reCAPTCHA 3 без необходимости ввода... Google представила новую версию системы защиты веб-сайтов от ботов под названием reCAPTCHA 3. Этот вариант системы не требует от пользователя совершать какие-либо действия, чтобы п...
Microsoft и Google обнаружили уязвимость в процессорах Intel... Представители Microsoft и Google сообщили об обнаружении уязвимости в процессорах Intel. Ее исправление потребует загрузки обновления микрокода чипов, что может привести к замедлен...
Google Chrome уличили в тайном сканировании файлов... Эксперт в области кибербезопасности Келли Шортридж (Kelly Shortridge) заметила, что браузер от Google постоянно сканирует почти все файлы на компьютерах под управлением Windows. Об...
Google Chrome для Windows будет блокировать внедрение стороннего кода... В 2018 году Google Chrome начнет блокировать попытки внедрения кодов сторонних программ в свои процессы. Представители Google объяснили, что примерно у двух третей пользователей Ch...
Троян Retefe атакует пользователей систем онлайн-банкинга, Facebook, Gmail и Pay... Корпорация Eset зафиксировала масштабную атаку на пользователей крупных сервисов, включая Facebook, PayPal, Gmail, а также на клиентов нескольких европейских банков. Для кражи инфо...
Microsoft исправляет обнаруженную Google уязвимость в Windows... В конце октября компания Google опубликовала информацию о том, что в операционной системе Windows присутствует уязвимость, которой активно пользуются злоумышленники. Microsoft, кот...