ИИ как угроза нацбезопасности: Уроки истории Anthropic и почему это касается каждого

В последние годы я, как и многие из вас, с замиранием сердца следил за взрывным развитием искусственного интеллекта. Казалось бы, мы стоим на пороге новой эры, где ИИ станет нашим незаменимым помощником, открывая беспрецедентные возможности для творчества, науки и личного роста. Я всегда подходил к теме ИИ с позиции максимального использования его потенциала для развития человека, для расширения наших горизонтов. Мой блог superperson.ru всегда про то, как быть лучшей версией себя, и я искренне верил, что ИИ — один из мощнейших инструментов на этом пути.

Но то, что произошло недавно с компанией Anthropic и её передовыми моделями Fable 5 и Mythos 5, заставило меня глубоко задуматься. Это не просто новость из мира технологий; это событие, которое меняет правила игры, предвещая совершенно новое отношение к искусственному интеллекту на уровне государств и обществ. Из инструмента, который можно свободно развивать и использовать, ИИ внезапно превратился в объект строжайшего контроля, а то и в прямую угрозу национальной безопасности.

Когда я начал копать глубже, изучая первоисточники и мнения экспертов, включая детальный разбор Мэттью Бермана на его YouTube-канале “Matthew Berman” в выпуске “WTF is going on?!”, передо мной открылась куда более сложная картина. Это история не только о технологиях, но и о человеческой психологии, о маркетинге страха, о конкуренции и о том, как наши собственные действия могут привести к непредсказуемым последствиям. И я уверен, что каждый, кто интересуется будущим, должен знать об этом.

Шокирующая новость: правительство США запрещает доступ к ИИ-моделям

Представьте себе: вы крупная технологическая компания, разрабатывающая одни из самых передовых ИИ-моделей в мире. Ваши продукты Fable 5 и Mythos 5 только что вышли или находятся на пике популярности, обслуживая миллионы пользователей. И вдруг, без предупреждения, приходит директива от правительства США, ссылающаяся на соображения национальной безопасности, которая предписывает немедленно приостановить доступ ко всем вашим флагманским моделям для “любых иностранных граждан” – как внутри, так и за пределами США. И через считанные минуты после твита об этом, модели просто перестают работать.

Именно это, по словам Мэттью Бермана, произошло с Anthropic. Мэттью подчеркивает абсурдность определения “иностранный гражданин” – это фактически любой негражданин США, включая обладателей грин-карт, таких как Андрей Карпати, одна из величайших умов в области ИИ, который всего за пару недель до этого присоединился к Anthropic. Как компании должны были соблюдать такое правило? Как они должны были определять гражданство своих пользователей, особенно при использовании API? Это неминуемо ведет к необходимости внедрения процедур типа “Знай своего клиента” (KYC), которые до сих пор были уделом банков и финансовых учреждений.

Самонанесенная рана: Как Anthropic сама заложила мину замедленного действия

Мэттью Берман, с которым я полностью согласен, называет произошедшее “самонанесенной раной” для Anthropic. Изначально это может показаться мощным маркетинговым ходом — “наш ИИ настолько хорош, что правительство его запретило!”. Однако долгосрочные последствия для бизнеса и репутации могут быть катастрофическими. Почему же “самонанесенная”?

Вся история началась с так называемого “Проекта Glasswing”, когда Anthropic впервые заговорила о своей модели Mythos. Они заявили, что она настолько мощна и способна к кибератакам и киберзащите, что ее нельзя выпускать в общий доступ. “Она слишком хороша, чтобы ее выпускать. Мы сами ее используем, потому что мы хорошие ребята, нам можно. Возможно, мы выберем пару компаний, которым доверим доступ, но не вам”. Это, на мой взгляд, классический пример маркетинга, основанного на страхе. Запретный плод всегда сладок, и такая подача только подогрела интерес к Mythos. Все хотели попробовать то, что “слишком опасно”.

Далее был конфликт с Департаментом войны США. Anthropic провела четкую красную линию, заявив, что их модели не могут использоваться для полностью автономного оружия и массовой слежки за гражданами. Департамент войны, в свою очередь, заявил, что не позволит диктовать себе, как использовать технологии. В результате правительство США назвало Anthropic “риском для цепочки поставок” — беспрецедентный случай для американской компании.

И вот, совсем недавно, Anthropic запускает Fable 5, которая, по сути, является “кастрированной” версией Mythos, с ограничениями на запросы о кибербезопасности, биооружии и ядерных технологиях. Но даже в этой версии Anthropic продолжала подчеркивать ее невероятную мощь и потенциальную опасность. “Мы дадим вам эту версию, потому что ту, самую опасную, мы не можем дать”.

”Джейлбрейк” и роль Amazon: когда конкуренция играет на руку регуляторам

Правительство объяснило свое решение тем, что Fable 5 может быть “джейлбрейкнута” (взломана или обойдена), чтобы получить доступ к запрещенной информации. И здесь, как отмечает Мэттью Берман, возникает самый дикий поворот. “Это все равно, что обнаружить, что небо синее”, — иронизирует он, поскольку все существующие ИИ-модели могут быть джейлбрейкнуты. Это фундаментальная природа текущих форм ИИ: их можно убедить сказать то, что они не должны.

И что еще более поразительно? Оказывается, информацию о возможности джейлбрейка правительству предоставили… исследователи из Amazon. Более того, сам CEO Amazon, Энди Джасси, был среди тех технологических лидеров, кто лично доносил опасения о рисках Mythos и Fable до высокопоставленных чиновников администрации. Это просто невероятно! Amazon, один из крупнейших инвесторов и поставщиков Anthropic, по сути, подставил своего партнера. Это ярко иллюстрирует накал конкуренции в сфере ИИ, где даже альянсы могут рассыпаться под давлением больших ставок.

Мое собственное наблюдение: эта ситуация наводит на мысли о том, как легко можно использовать уязвимости и опасения в конкурентной борьбе. Если модель позиционируется как “слишком опасная”, то любая демонстрация ее уязвимости становится мощным оружием в руках конкурентов.

Последствия для Anthropic: маркетинг или катастрофа?

Многие сразу же начали говорить о том, что это огромный маркетинговый успех для Anthropic. Как метко подметил Райан Петерсон, CEO Flexport, (чьи слова цитирует Берман), это похоже на историю, когда компания по производству обуви заставила НБА запретить их кроссовки за то, что они “заставляли прыгать слишком высоко”. Такая реклама привлекает внимание: “Ого, их ИИ так хорош, что его запретило правительство! Надо попробовать!”

Однако Мэттью Берман убежден (и я с ним полностью согласен), что нарушение бизнеса Anthropic будет гораздо серьезнее, чем любой маркетинговый эффект. Anthropic только что конфиденциально подала S-1 для выхода на IPO. А теперь они продают не просто продукт, а “угрозу национальной безопасности”. Это полностью меняет расчеты инвесторов и регуляторов. IPO, скорее всего, будет отложено.

Слова Кристин Дэвис, CIO Департамента войны, четко расставляют точки над “i”: “Некоторые вещи просто важнее, чем циклы выручки, кликбейт и оценка до IPO.” Она прямо указывает на то, что Anthropic “сама это на себя навлекла”.

На мой взгляд, эта ситуация — яркий пример того, как погоня за хайпом и стремление к “регуляторному захвату” (когда крупная компания активно лоббирует ужесточение регулирования, чтобы создать барьеры для входа для более мелких конкурентов) могут обернуться против самих инициаторов. Anthropic активно продвигала идеи о необходимости государственного регулирования ИИ, излагая свои рамки и предложения. И правительство, по сути, просто сказало: “Окей, мы вас послушали, вот вам регулирование”.

Широкие последствия: ИИ как угроза, а не инструмент

Самый важный вывод из этой истории, как для меня, так и для всего сообщества, интересующегося саморазвитием и будущим технологий, заключается в изменении восприятия ИИ. Как отмечает Мэттью Берман, мы достигли точки, когда правительство и широкая общественность начинают рассматривать эти модели не как инструменты для улучшения жизни, а как угрозы национальной безопасности.

Это крайне опасный прецедент. Теперь каждая новая ИИ-модель будет рассматриваться через призму потенциального вреда: “Как это навредит США? Как это навредит нашим союзникам?” Вместо вопросов: “Как это поможет человечеству? Как это повысит производительность, ВВП, мировое богатство?”

Эта история Anthropic — это поворотный момент. Разговор об ИИ и так уже был полон негатива и страха, особенно в США. Теперь же эта ситуация делает его еще хуже. Это может замедлить инновации, перенаправить огромные ресурсы на разработку “безопасных” (читай – сильно ограниченных) моделей и, в конечном итоге, лишить нас всех тех прорывных возможностей, которые ИИ мог бы предложить.

Я всегда призывал вас использовать технологии для расширения своих возможностей, для достижения новых вершин в личном развитии. Но когда сами создатели технологий, а за ними и правительства, начинают воспринимать их как неконтролируемую силу, это заставляет задуматься. Как мы можем развиваться с помощью ИИ, если его потенциал будет задушен страхом и регулированием?

Что дальше? Урок для всех нас

Скорее всего, Anthropic и правительство найдут компромисс. Возможно, Fable 5 вернется в каком-то виде, но с более жесткими требованиями к проверке клиентов, что будет создавать барьеры для новых игроков. Это классический “сценарий Трампа”, как выражается Берман: принять экстремальное решение, а затем договариваться о золотой середине.

Но главное здесь не это. Главное – урок для всех нас.

1. Ответственность разработчиков: Слова имеют вес. Когда вы говорите о “смертельной опасности” своих моделей, не удивляйтесь, когда к вам приходят с “ограничениями безопасности”.
2. Этика и прозрачность: Не пытайтесь играть с регуляторами или использовать страх как маркетинговый инструмент. В конечном итоге, это может навредить всем.
3. Восприятие ИИ: Мы, как общество, должны активно участвовать в формировании дискуссии об ИИ. Мы должны требовать сбалансированного подхода, который учитывает как риски, так и колоссальный потенциал для развития человечества.

Эта история — не просто об одной компании. Это о том, как мы все вместе решаем, каким будет наше будущее с искусственным интеллектом. Будет ли это будущее ограничений и страха, или же мы найдем способ безопасно и эффективно использовать эти удивительные технологии для блага каждого? Это вопрос, на который нам всем предстоит ответить.

Исследования:

• AI Ethics and Governance: A New Framework for the Future — https://www.nature.com/articles/s42256-020-00261-y
• Dual-use AI: Definitions, Dilemmas, and Directions — https://www.rand.org/pubs/research_reports/RR2322.html
• Regulatory Capture in the Age of AI — https://www.brookings.edu/articles/the-risk-of-regulatory-capture-in-ai/