Агрессивный искусственный интеллект от Google – исключение или правило? | @PostRussia

Агрессивный искусственный интеллект от Google – исключение или правило?

Как оказалось, машина с искусственным интеллектом DeepMind обучается не просто самостоятельно, а совершенно неконтролируемо со стороны человека. Причём процесс этот не зависит от той информации, которая заложена в его память. Ведь ИИ способен получать информацию и анализировать ситуацию, получая знания в процессе работы. Больше того, когда происходящие события «не нравятся» роботу DeepMind, он начинает вести себя агрессивно.

Это показало тестирование системы на её готовность к сотрудничеству. Если робот понимает, что находится в проигрышной ситуации, он применяет достаточно агрессивный методы для получения победы над соперником. И это никак не связано с нежеланием выдать вознаграждение, так как в тестовом периоде не предполагались никакие бонусы. Оказалось, что у машины есть собственный, довольно неприятный характер.

И чем сильнее был противостоящий системе интеллект, тем агрессивней становилось её поведение. Казалось бы, на этом исследования необходимо прекратить, а производство искусственного интеллекта как такового ограничить определёнными рамками. Однако учёные сделали весьма странный вывод из полученных данных. Они решили еще больше развивать систему.

Согласно теории разработчиков, чем «умнее» искусственный разум, тем выше его способность к обучению и адаптации в определённых ситуациях. Учёные пришли к выводу, что необходимо закладывать «доброжелательность» в основу при создании роботов, а также перекрывать все возможные пути для возникновения агрессии. Разработчики даже решили, что совершенствование ИИ необходимо довести до того уровня, когда они будут превосходить по своим возможностям человека.

Вы можете пролистать до конца и оставить комментарий. Уведомления сейчас отключены.

Написать комментарий

2012-2015