САН-ФРАНЦИСКО, 21 ноя (Рейтер) - Раскол, стоивший вундеркинду в области искусственного интеллекта Сэму Альтману должности генерального директора OpenAI, отражает фундаментальные разногласия о безопасности, в целом, между двумя лагерями, которые разрабатывают программное обеспечение, меняющее жизнь человечества, и размышляют о влиянии ИИ на общество.
С одной стороны - такие, как Альтман: они уверены, что необходима быстрая разработка и внедрение ИИ в обиход, а стресс-тесты и отшлифовка технологии будут происходить уже в процессе. С другой стороны - сторонники наиболее осторожного и безопасного пути: глубокой разработки ИИ с испытаниями в лабораторных условиях, которые дадут уверенность, что машинный интеллект, так сказать, безопасен для потребления человеком.
Альтман был уволен в пятницу из компании, которая создала популярный чат-бот ChatGPT.
Некоторые опасаются, что сверхинтеллектуальные программы могут стать неуправляемыми и привести к катастрофе - объединенные такими опасениями технологи создали общественное движение под лозунгом «эффективного альтруизма» - они считают, что достижения ИИ должны приносить пользу человечеству. Среди тех, кто разделяет эти опасения, - Илья Суцкевер, главный научный сотрудник OpenAI и член совета директоров, одобривший отстранение Альтмана.
Тревоги по поводу генеративного искусственного интеллекте достигли апогея после неожиданного смещения Альтмана, который также являлся соучредителем OpenAI. Генеративный ИИ - это термин, обозначающий программное обеспечение, которое в ответ на простые запросы может выдавать связный контент, например, эссе, компьютерный код или похожие на фото изображения. Взрыв популярности ChatGPT от OpenAI за последний год обострила дискуссию о том, как лучше регулировать и развивать это программное обеспечение.
«Вопрос в том, является ли это просто очередным продуктом, как социальные сети или криптовалюта, или же это технология, которая способна превзойти человека и стать неконтролируемой, - сказал сторонник лагеря безопасного пути Коннор Лихи из ConjectureAI. - Будет ли будущее принадлежать машинам?»
По мнению Суцкевера, Альтман слишком быстро отдал программное обеспечение OpenAI в руки пользователей, что могло создать угрозу.
«У нас нет рецепта, как управлять сверхразумным ИИ, как его контролировать и потенциально предотвратить его выход из-под контроля, - отметили Суцкевер с его заместителем. - Люди не смогут надежно контролировать системы ИИ, которые намного умнее нас».
Особую озабоченность вызвал тот факт, что в начале ноября OpenAI анонсировала ряд новых коммерческих продуктов, включая версию программного обеспечения ChatGPT-4 и так называемых агентов, которые работают как виртуальные помощники.
Суцкевер не ответил на просьбу о комментарии.
В воскресенье OpenAI назначила временным генеральным директором Эммета Шира, бывшего главу стриминговой платформы Twitch. В сентябре в социальных сетях он высказывался за замедление развития ИИ.
«Если мы сейчас нашу скорость обозначить как 10, то пауза - это замедление до 0. Я думаю, что мы должны стремиться к 1-2», - написал тогда Шир.
Оригинал сообщения на английском языке доступен по коду:
(Грег Бенсингер в Сан-Франциско)
