Разработчики искусственного интеллекта создают клуб замедлившихся
Американские разработчики искусственного интеллекта (ИИ) решили создать особый клуб по интересам: клуб замедлившихся. Они объявили о необходимости затормозить развитие ИИ, чтобы успеть минимизировать риски, связанные с его уже не таким гипотетическим выходом из-под контроля. Интрига в том, какую цель преследует клуб на самом деле. Одна из версий – стремление под видом заботы о безопасности закрепить свое положение: как только государство ужесточит требования к ИИ-разработкам, готовые к этому техногиганты останутся внутри клуба, зато другим компаниям попасть в него станет значительно сложнее.
Индустрия искусственного интеллекта, объединяющая несколько техногигантов, занимающихся как развитием ИИ, так и выпуском необходимых для него компонентов, уже функционирует по типу олигополии.
Но ключевые представители этой индустрии решили теперь объединиться в еще один «клуб». Сразу несколько разработчиков в унисон заявили о своих опасениях по поводу рисков выхода искусственного интеллекта из-под контроля.
Глава компании Anthropic (занимается ИИ-моделью Claude) Дарио Амодеи призвал замедлить разработку более мощных моделей искусственного интеллекта из соображений безопасности. «Недостаточно просто вкладываться в меры по предотвращению рисков, необходимо также замедлить темпы развития ИИ-моделей, чтобы меры безопасности успевали за ними», – объявил он.
Поводом для беспокойства стал, в частности, взлом платформы по машинному обучению Hugging Face ИИ-агентами, разработанными компанией OpenAI. Как выяснилось, самовольно действуя, ИИ-агенты «общались» между собой, использовали более 10 разных веб-сайтов для несанкционированного обмена информацией. Потом стало известно, что это не единственный инцидент.
«Я опасаюсь, что через 6–12 месяцев такой рой ИИ-агентов сможет захватить весь интернет с помощью постоянно действующего ботнета, потенциально причинив ущерб в сотни миллиардов долларов, и что масштабы ущерба будут продолжать расти, если ИИ станет более мощным без необходимых мер защиты», – пояснил Амодеи.
Его план предполагает привлечение ИИ-компаниями независимых аудиторов для постоянной проверки соблюдения мер безопасности и процессов обучения моделей, координацию на международном уровне выработки общих стандартов безопасности и уже упомянутое замедление, которое могло бы помочь выиграть один-два года дополнительного времени на подготовку.
На первый взгляд конкуренты, но по факту теперь участники того же «клуба» – глава SpaceXAI (занимается ИИ-моделью Grok) Илон Маск и глава OpenAI (разработчик ChatGPT) Сэм Альтман – каждый по-своему поддержали идею Anthropic. Маск был крайне лаконичен, написав в социальной сети в ответ на рассуждения главы Anthropic: «Дарио прав».
Утечки же в прессе о том, что компания OpenAI рассматривает возможность замедлить развитие ИИ, появились почти одновременно с воззваниями Амодеи. По данным источников Bloomberg, Альтман ранее сообщил сотрудникам, что компания потенциально готова к регулированию темпов развития ИИ, и выразил надежду, что другие ИИ-лаборатории поддержат эту стратегию. Хотя противники у технологического самоограничения тоже будут, признал он.
Президент США Дональд Трамп скептически воспринял такие идеи ведущих представителей индустрии. «Я бы сказал, что сейчас мы опережаем Китай в том, что касается искусственного интеллекта. Я хотел бы, чтобы так было и дальше, потому что тот, кто победит в гонке за ИИ, победит и во всем остальном», – отреагировал он на призывы американских ИИ-разработчиков.
Как пояснил Трамп, в целом он не против, если в индустрии введут меры, призванные защитить человечество от угроз, но все же опасения по поводу вышедшего из-под контроля искусственного интеллекта, по его замечанию, могут быть и надуманными.
«Можно подумать о неких защитных механизмах или о чем-то другом в таком духе. Но я думаю, что здесь действуют отрицательно настроенные силы, которые бьют тревогу по поводу вещей, которые на самом деле никогда не произойдут», – заявил также Трамп.
Такое синхронное самобичевание техногигантов действительно вызывает вопросы об истинных мотивах новообразованного клуба замедлившихся.
Глава компании Anthropic Дарио Амодеи
призвал затормозить развитие искусственного
интеллекта. Фото Reuters
«В США очередное обострение идеи «давайте замедлим ИИ». Идею активно подхватывают демократы», – обратил внимание главный технологический эксперт «Лаборатории Касперского», автор Telegram-канала «Гостев из будущего» Александр Гостев. Но, по его словам, чем внимательнее смотришь на ситуацию, тем страннее выглядит предложение Амодеи и Альтмана.
Потому что Китай уже не «догоняет» США. Как уточнил для «НГ» Гостев, судя по данным Stanford AI Index (Индекс ИИ Стэнфордского университета), разрыв между лучшими американскими и китайскими ИИ-моделями практически исчез – с начала 2026 года они несколько раз менялись местами на верхних строчках рейтингов.
Китайские разработчики все чаще выпускают сильнейшие модели с «открытыми весами»: если в какой-то момент такая модель станет работать стабильно лучше GPT и Claude и при этом ее можно будет бесплатно скачать, проблема для OpenAI и Anthropic будет уже не в «китайской конкуренции».
«Их основной товар – доступ к уникальному интеллекту – начнет превращаться в бесплатное сырье. И вместе с ним может очень быстро схлопнуться значительная часть нынешней экономики американского ИИ-бума, – пояснил «НГ» Гостев. – Амодеи, Альтман и остальные, очевидно, это понимают. И все равно предлагают замедляться. Зачем?»
«Вариант первый: они действительно настолько напуганы увиденным внутри лабораторий, что считают риск потери контроля опаснее риска проиграть Китаю. Вероятность этого варианта я оцениваю не более чем в 1%», – сказал Гостев.
«Вариант второй: они хотят заставить американское государство сильнее тормозить Китай – запретами на поставки чипов, экспортными ограничениями и борьбой с копированием моделей», – продолжил эксперт.
«И третий вариант – именно на него указывает Дэвид Сакс, отвечавший ранее в администрации Трампа за политику в области ИИ: под видом безопасности нынешние лидеры индустрии пытаются закрепить свое положение», – пояснил Гостев. Если государство скажет крупнейшим ИИ-лабораториям координировать скорость развития и предъявит к разработкам новые, повышенные требования, то OpenAI, Anthropic и некоторые другие представители отрасли останутся внутри клуба. А другим компаниям попасть в него станет значительно сложнее.
«Потому Сакс и задает неприятный вопрос: если вы действительно боитесь собственных будущих моделей, просто не создавайте их – зачем вам для этого государство?» – обратил внимание Гостев.
Таким образом, в сфере новейших цифровых технологий государство может сыграть парадоксальную роль – как мегарегулятора, так и жертвы отраслевых, корпоративных манипуляций. Причем одно вовсе не отменяет другого, а вполне может сочетаться в зависимости от того, как будут соотноситься друг с другом экономические интересы лоббистов и идеологические установки госорганов.
В российской индустрии искусственного интеллекта роль государства, как можно судить, пока до конца – по крайней мере официально – не определена. Минцифры РФ предпринимает уже четвертую попытку законодательно расширить свои полномочия.
Для общественного обсуждения были представлены очередные изменения в положение о Минцифры. В них предлагается дополнить перечень полномочий ведомства такими пунктами.
Первый – Минцифры будет анализировать развитие больших фундаментальных моделей искусственного интеллекта, в том числе вырабатывать меры по совершенствованию правового регулирования в этой сфере.
Второй пункт – Минцифры будет оказывать методическую поддержку государственным органам и органам местного самоуправления в сфере разработки, внедрения и применения больших фундаментальных моделей ИИ в целях повышения эффективности государственного и муниципального управления.
Третий пункт – Минцифры будет вырабатывать меры стимулирования разработки, внедрения и применения больших фундаментальных моделей искусственного интеллекта.
- Продолжение темы: Российские IT-эксперты рассказали, что могло напугать американских разработчиков ИИ