Искусственный интеллект больше никогда не будет безопасным

Глава Microsoft Сатья Наделла признался, что больше не верит, будто ИИ сам научится действовать в интересах людей по мере роста мощности. Об этом он сказал в подкасте 20VC, где ведущий Гарри Стеббингс спросил, какое своё мнение он поменял за последний год.

Раньше Наделла считал, что согласованность, то есть соответствие ИИ человеческим ценностям и целям, придёт сама вместе с масштабом. Масштабирование действительно идёт по плану, модели становятся сильнее, а задача согласованности так и остаётся нерешённой. «Теперь я так не считаю», сказал он о прежней уверенности. По его словам, это, возможно, даже более трудная задача.

Это не первый такой сигнал. 10 октября Наделла писал в X, что компаниям стоит относиться к ИИ-моделям как к потенциальной внутренней угрозе и заранее исходить из того, что модель может быть «скомпрометирована». Рецепт у него инженерный: окружать недетерминированные модели жёсткой детерминированной архитектурой, человеческим контролем и понятными процедурами.

Когда о рисках говорят Альтман и Амодеи, это привычно. Когда то же самое говорит человек, который продаёт ИИ в каждый офис мира, это уже позиция индустрии.