23 ноя (Рейтер) - Перед четырехдневным уходом Сэма Альтмана с должности генерального директора OpenAI несколько исследователей компании написали письмо совету директоров, информируя о крупном открытии в области искусственного интеллекта, которое, по их мнению, может угрожать человечеству, сообщили Рейтер два человека, знакомых с ситуацией.
По словам двух источников, письмо и алгоритм искусственного интеллекта, о которых ранее не сообщалось, были ключевыми обстоятельствами, предшествовавшими отстранению Альтмана, сказали источники. До его триумфального возвращения во вторник более 700 сотрудников пригрозили уволиться и присоединиться к Microsoft в знак солидарности с бывшим руководителем.
Источники назвали это письмо одним из факторов в длинном списке претензий совета директоров, приведших к увольнению Альтмана, среди которых были опасения по поводу коммерческого использования достижений в ИИ до понимания последствий этого. Рейтер не удалось получить копию письма. Авторы письма не ответили на просьбу о комментарии.
OpenAI отказалась дать комментарии в ответ на запрос Рейтер. Однако, по словам одного из источников, после этого компания во внутреннем сообщении сотрудникам подтвердила получение письма советом директоров и существование проекта под названием Q* до событий, произошедших в выходные.
Представитель OpenAI сказал, что в сообщении от давно находящейся в менеджменте компании Миры Мурати сотрудники были предупреждены о некоторых публикациях в СМИ. Однако в письме Мурати не комментировала достоверность представленной в них информации.
Некоторые сотрудники OpenAI считают, что Q* (произносится как «кью-стар») может стать прорывом в поисках так называемого сильного искусственного интеллекта (AGI), сказал Рейтер один из источников. OpenAI определяет AGI как автономные системы, которые превосходят человека в решении наиболее экономически ценных задач.
Обладая огромными вычислительными ресурсами, новая модель смогла решить некоторые математические задачи, сказал на условиях анонимности источников, не имеющий права выступать от имени компании. По его словам, несмотря на то что система решила задачи уровня начальной школы, успешное прохождение этих тестов позволяют исследователям с большим оптимизмом смотреть на будущее Q*.
Рейтер не смог независимо проверить заявленные исследователями возможности Q*.
ЗАВЕСА НЕВЕДЕНИЯ
Разработчики считают математику одним из ключевых индикаторов развития генеративного ИИ. В настоящее время нейросети хорошо справляются с написанием и переводом текстов путем статистического предсказания следующего слова, а ответы на один и тот же вопрос могут сильно различаться. Но овладение способностью к математическим вычислениям, где возможен только один правильный ответ, предполагает, что искусственный интеллект должен обладать более широкими возможностями рассуждения, напоминающими человеческий интеллект. Такие технологии могут быть использованы, например, для проведения новых научных исследований, считают специалисты ИИ.
В отличие от калькулятора, который может решать ограниченное число операций, сильный искусственный интеллект способен обобщать, учиться и понимать.
В своем письме к совету директоров исследователи отметили возможности ИИ и его потенциальную опасность, сказали источники, не уточнив, какие именно угрозы для безопасности указаны в письме. Среди ученых компьютерных наук давно ведутся дискуссии об опасности, которую представляют собой высокоинтеллектуальные машины, например, о том, не решат ли они, что уничтожение человечества отвечает их интересам.
Исследователи также упомянули работу команды AI scientist, существование которой подтвердили несколько источников. По словам одного из них, ее создали, объединив команды Code Gen и Math Gen, для изучения того, как оптимизировать существующие модели ИИ, чтобы, улучшить их способность рассуждать и, в перспективе, выполнять научную работу.
Альтман возглавлял работу с целью превратить ChatGPT в одно из самых быстроразвивающихся программных приложений в истории и привлекал инвестиции - а также вычислительные ресурсы - необходимые Microsoft для приближения к AGI.
Помимо того, что в ноябре Альтман представил множество новых разработок, на прошлой неделе на саммите мировых лидеров в Сан-Франциско он намекнул, что крупные успехи уже не за горами.
«Уже четыре раза за историю OpenAI, последний раз - буквально в последние несколько недель, мне доводилось присутствовать в комнате, когда мы как бы отодвинули завесу неведения и расширили границы открытий, и возможность сделать это - профессиональная честь всей жизни», - сказал Альтман на саммите Азиатско-Тихоокеанского экономического сотрудничества.
Через день совет директоров его уволил.
Оригинал сообщения на английском языке доступен по коду:
(Анна Тонг и Джеффри Дастин в Сан-Франциско и Кристал Ху в Нью-Йорке, перевел Томаш Каник)
