Сэм Альтман предупредил о рисках потери контроля над ИИ

Для предотвращения подобных сценариев Альтман настаивает на опережающем развитии методов безопасности. Технологии контроля должны совершенствоваться быстрее, чем растут возможности самих моделей, иначе прогресс станет необратимым. Ранее в индустрии уже звучали тревожные сигналы: исследователь Anthropic Джейкоб Коксон покинул сферу ИИ, заявив о приближении человечества к «точке невозврата» из-за агрессивной гонки технологических гигантов.

Сам Альтман еще в июле допустил, что мир уже достиг стадии технологической сингулярности. В этой гипотетической точке развитие систем становится полностью неуправляемым, что неминуемо влечет фундаментальные изменения для всей цивилизации. На фоне глобальных дискуссий о безопасности национальные регуляторы продолжают менять правила игры: например, в России уже разрешили использовать объекты авторского права для обучения нейросетей.