Глава подразделения искусственного интеллекта Google DeepMind Демис Хассабис призвал США возглавить создание нового надзорного органа, который будет проверять передовые модели ИИ и оценивать связанные с ними риски для национальной безопасности — от киберугроз до биологических рисков. В своем посте в X он объявил о «неотложной необходимости» действовать по мере приближения к точке, когда искусственный интеллект достигнет или превзойдет человеческий интеллект (AGI).
Что предлагает новая структура
По замыслу Хассабиса, ключевым элементом должна стать публично-частная структура под контролем федерального правительства. Модель напоминает по формату самоорганизующиеся регулирующие органы, такие как FINRA, и предполагает наличие совета с независимыми техническими экспертами и представителями открытого ПО. Хассабис подчеркнул, что для работы такой организации потребуется «существенное» финансирование — вероятно, со стороны индустрии — чтобы привлечь лучшие инженерные кадры и обеспечить ресурсы для масштабного тестирования моделей.
Изначально лаборатории, создающие «пограничные» (frontier) модели, будут добровольно предоставлять свои системы на проверку до 30 дней до релиза. После подтверждения эффективности этих процедур проверка может стать обязательной для развёртывания на рынке США. Среди предлагаемых тестов — проверка на попытки обхода защитных ограничений, признаки обмана и другие агентные сценарии поведения моделей. Также обсуждаются меры вроде цифрового водяного знака для изображений, сгенерированных ИИ, и создание читаемых человеком токенов вывода, чтобы понять ход рассуждений системы.
Точки напряжения: частный сектор и экспортный контроль
Инициатива Хассабиса выходит на фоне растущей напряжённости между компаниями-разработчиками и государственными регуляторами. В июне администрация временно ввела экспортные ограничения в отношении одной из передовых моделей Anthropic; в свою очередь OpenAI получила запрос ограничить развёртывание новой модели и первоначально ограничила доступ для широкого круга пользователей. Эти шаги подчёркивают, что баланс между инновациями и безопасностью пока не найден.
Хассабис отмечает, что США находятся в выгодном положении для лидерства в создании подобной рамки, «учитывая экономический и технический статус страны». Он предлагает, чтобы государство выступило гарантом и координатором, в то время как отрасль и независимые эксперты обеспечат техническую экспертизу.
Геополитический контекст
Призывы к созданию надзорного органа прозвучали не в изоляции: месяц назад Хассабис вместе с другими руководителями отрасли, в том числе главой Anthropic Дарио Амодеи, выступали за коалицию под руководством США для выработки правил на встрече G7, где присутствовал и президент Дональд Трамп. Также руководитель OpenAI Сэм Олтман поддержал идею подобного органа в статье для Financial Times.
На фоне этого разворачивается и конкурентная гонка с Китаем: новые китайские модели от DeepSeek и Z.ai оцениваются как сопоставимые с ведущими западными системами и всё активнее используются американскими компаниями, особенно при росте затрат на ИИ. Конгресс рассматривает меры по ограничению распространения китайских моделей среди американских фирм — государственный департамент уже выразил серьёзные опасения.
Инициатива Хассабиса задаёт важный вопрос: можно ли добиться прозрачности и безопасности в высокотехнологичной и коммерчески чувствительной сфере без замедления инноваций и потери конкурентных преимуществ. Ответ на него во многом определит, кто и как будет задавать правила игры в эру AGI.
