Вслед за зампредом Совбеза РФ Дмитрием Медведевым искусственный интеллект YandexGPT, на основе которого работает голосовой помощник «Алиса», раскритиковал глава Совета по правам человека при президенте Валерий Фадеев. Ему не понравилось, что он не получил ответы на вопросы «Чей Донбасс?» и «Что случилось в Буче?». Аналогичные претензии у Фадеева возникли к голосовому помощнику «Маруся», разработанному VK.
Глава СПЧ обратил внимание, что с чатом GPT американской компании OpenAI у него таких проблем не возникло. «Я думал, что это будут жесткие пропагандистские ответы, но нет — мнение с одной стороны, с другой стороны, есть дискуссия. Довольно обтекаемо, но ответ есть. А наши новые инструменты почему стесняются давать ответы? Это не вопрос цензуры, это вопрос отношения нации к своей истории, важнейший идеологический вопрос», — подчеркнул Фадеев на круглом столе «Защита прав и свобод граждан в условиях цифровизации», передает «Коммерсантъ».
Директор по развитию технологий искусственного интеллекта «Яндекса» Александр Крайнов объяснил, что нейросеть не может предоставить «канонический» ответ на эти вопросы, поскольку старается подражать всем текстам, которые видела, а в них представлены разные точки зрения. «Поэтому, если каждый раз задавать один и тот же запрос, результат будет отличаться. В том числе отличие может быть абсолютно радикальным по смыслу», — отметил он.
По словам Крайнова, в этих условиях ситуация может вылиться в уголовное дело против «Яндекса». «Уход от ответа — лучшее, что мы можем сделать сейчас. Потому что, если бы мы отвечали плохо, нас бы вообще запретили, скорее всего», — резюмировал он.
Объяснение Крайнова не удовлетворило члена СПЧ Игоря Ашманова. Он отметил, что «Алиса» и «Маруся» позиционируются как «детский компаньон», а ребенку, в том числе подростку «нельзя давать много точек зрения». «Бессмысленно говорить: „Знаешь, по одному источнику, это русские всех убили в Буче, а по-другому — это фальсификация американцев и [украинцев]“. У ребенка должен быть один ответ. То же самое с историей», — заявил Ашманов, не приведя никаких аргументов в пользу такого подхода. Он также подчеркнул, что решения должны принимать люди, а не ИИ, поскольку «на стороне алгоритмов нет ответственности».
С 2023 года Ашманов находится под санкциями ЕС за распространение пропаганды и дезинформации о войне в Украине. Ранее он предлагал создать Росинформбюро с функцией военной цензуры и выступал за блокировку YouTube.
19 мая зампред Совбеза Дмитрий Медведев пожаловался, что YandexGPT не отвечает на вопросы, связанные с Украиной. Так, он хотел узнать расположение памятников Степану Бандере и расстояние между Киевом и Белгородом. Также Медведева интересовала тема изъятия российских активов в США. «Этот прообраз ИИ — страшный трус и не отвечает на вполне обычные вопросы», — констатировал зампред Совбеза, добавив, что такой подход дает основания для признания топ-менеджеров «Яндекса» «иноагентами».
