Развитие искусственного интеллекта на этой неделе удивило ученых - специалисты из Google рассказали о нескольких забавных способах искусственного интеллекта считить, чтобы добиться своей цели. Например, играя в Тетрис, ИИ ставил игру на паузу, чтобы не проиграть, а самоуправляемая машина выполнила задачу ездить осторожно, катаясь вокруг одной точки. Осталось только выяснить, является ли хитрость первым шагом к проявлению сознания.

На самом деле, ученые из Google просто хотели подчеркнуть важность постановки задачи при работе с искусственным интеллектом. А все потому что ИИ создан для определенной задачи и ее выполнение - его главное правило: а все остальное - нюансы. И именно в этом заключается опасность разработки искусственного интеллекта. 

Специалистка из DeepMind, Виктория Краковна, рассказала о нескольких случаях нарушений правил, когда ИИ не просто хитрил, а и искривлял результаты. Например, в одном искусственном моделировании эволюции, исследователи забыли запрограммировать затраты энергии на рождение. Один вид эволюционировал и пришел к сидячему образу жизни, который состоял в основном из спаривания, чтобы производить новых детей, которых можно было бы съесть (или использовать в качестве помощников для производства более съедобных детей).  При этом, создание более умного ИИ в Google не считают решением проблемы: эволюционировав, искусственный интеллект скорее всего будет использовать более изощренные попытки схитрить и поскорее справиться с поставленной задачей. 

Источник: Daily Mail