На неделе один из самых уважаемых в мире экспертов в области искусственного интеллекта Нейт Соарес заявил, что развитие компьютерного разума может привести к вымиранию человечества в ближайшее десятилетие. Страшилки о том, что нейросети рано или поздно нас всех уничтожат, выглядят всё более убедительными, ведь искусственный интеллект удивляет исследователей успехами в разных сферах.
Тревожиться по поводу исчезновения человечества для самого человечества дело, в общем-то, привычное. И, если, астероиды, злые пришельцы и календарь Майя себя не оправдали, то новая страшилка выглядит свежо, и даже привлекательно. Особенно, из уст видного исследователя искусственного интеллекта.
Нейт Соарес - автор множества работ по ИИ, судя по всему, человек последовательный. Сам сделал неутешительный прогноз, сам расстроился, да так, что сам перестал откладывать себе на пенсию.
Как происходит мыслительный процесс внутри искусственного интеллекта, и как он приходит к тому или иному результату не знает никто, даже его создатели. А сам ИИ объяснять ничего не собирается, и разговаривать по душам не готов. Человек врёт из-за желания получить выгоду или выглядеть лучше. А вот почему на обман идёт ИИ непонятно. Отсутствие искренности в отношениях естественного и искусственного интеллектов порождает страх первого: а вдруг эта железяка что-то задумала.
В новостях об инцидентах с нейросетями искусственный интеллект буквально очеловечивают. Рассказывается, что агенты ИИ могут общаться между собой, у них есть инстинкт толпы, а некоторые даже способны к самопожертвованию ради коллективного блага. Что для них может означать это благо, остается только догадываться.
Технократ и триллионер Илон Маск считает, что развитие ИИ принесёт человеку счастье - освободит его от скучной, рутинной работы. А сверхпроизводительность технологии насытит планету доступными товарами и услугами. Наступит эра коммунизма, но только без коммунистов. Каждому по потребности, способностей можно не иметь. Получается, что ИИ станет не убийцей человечества, а его рогом изобилия. Ставить задачу сама себе нейросеть, судя по всему, ещё долго не будет уметь. Не исключено, что виртуального гомункула, вообще так и не удастся создать.
Любой инструмент можно применить во вред или на пользу. ИИ, действительно, скорее всего, будет использован в кибератаках по финансовым секторам, объектам критической инфраструктуры, для создания фейковых видеороликов в политических провокациях или для создания новых вирусов. Однако, человечество легко адаптируется к новым вызовам, уверены учёные. И глобальные риски сильно преувеличены.
Эксперты уверены: все громогласные заявления - это, в том числе, попытка переложить ответственность за возможные будущие проблемы на безответственный, по сути, искусственный интеллект. Тем более, что предугадать здесь, то или иное событие невозможно. Но даже при появлении реальных угроз взять и отключить искусственный интеллект уже не получится. Выдернуть ИИ из розетки, значит, проиграть в конкурентной борьбе. И, в том числе, за новое оружие, о чем в открытую говорят мировые политики.
Человечество уже подсело на нейросети, как и на электричество. Стоить теперь лучше думать - какие задачи перед ними ставить. Не исключено, что у них тоже, того и гляди, появятся принципы, с которыми придется считаться.