Миссия или амбиции: как создатели Claude пытаются спасти мир, возглавив гонку ИИ

На протяжении последних пяти лет компания Anthropic предупреждала мировое сообщество о том, что продвинутый искусственный интеллект может стать инструментом массового уничтожения, дестабилизировать общество и вызвать ряд других серьезных угроз. Одновременно с этим стартап превратился в одну из самых мощных сил, ускоряющих развитие технологий ИИ. Сегодня компания входит в число ведущих разработчиков передовых моделей, сотрудничает с оборонными ведомствами США, а ее рыночная стоимость оценивается почти в 1 триллион долларов.

На первый взгляд, тревожные заявления Anthropic и ее активная деятельность по наращиванию мощностей кажутся противоречивыми. Однако внутри организации такая стратегия считается единственно верной. Логика компании строится на двух фундаментальных убеждениях: ИИ — самая преобразующая технология в истории, появление которой неизбежно, а мир окажется в большей безопасности, если именно Anthropic будет находиться в авангарде этой гонки.

Стратегия «ответственных лидеров»

По словам бывших сотрудников компании, руководство и персонал часто называют себя «хорошими парнями» — ответственными распорядителями технологий ИИ. Накопление капитала, вычислительных мощностей и политического влияния рассматривается не как самоцель, а как необходимая цена за выполнение миссии: обеспечение безопасного перехода человечества к эпохе трансформирующего ИИ.

Для описания мировоззрения Anthropic эксперты используют метафору леса, наполненного сокровищами и монстрами. Пока другие участники рынка устремляются в этот лес за наживой, Anthropic стремится пройти дальше всех, чтобы одновременно приручать «чудовищ» — то есть сдерживать катастрофические риски, сохраняя при этом полезные свойства технологии.

В обзорах деятельности компании отмечается, что генеральный директор Дарио Амодеи прямо формулирует этот подход: чтобы диктовать стандарты безопасности и влиять на облик будущих систем, необходимо быть конкурентоспособным лидером отрасли. Только обладая реальным весом на рынке, компания может заставить других прислушиваться к своим правилам.

Корни противостояния с OpenAI и Meta*

Anthropic была основана в 2021 году выходцами из OpenAI, которые покинули предыдущее место работы из-за разногласий с Сэмом Альтманом. Они сомневались, что руководство OpenAI сможет обеспечить безопасное внедрение мощных моделей в мир. Этот дух оппозиции сохраняется и сегодня: в ходе внутренних обсуждений руководители Anthropic часто приводят OpenAI, Meta* и проект Илона Маска xAI в качестве примеров того, как не следует подходить к вопросам ответственности.

Несмотря на идеалистические принципы, заложенные в основу, Anthropic во многом напоминает типичную компанию Кремниевой долины. Однако эксперты выделяют ряд ключевых отличий:

• Статус корпорации общественной пользы (Public Benefit Corporation), позволяющий ставить интересы человечества выше прибыли.
• Акцент на долгосрочном благополучии общества при приеме сотрудников на работу.
• Убежденность в том, что создание самых мощных моделей является обязательным условием для продвижения повестки безопасности.

Этическая дилемма и военные контракты

Одной из наиболее острых тем внутри компании стало партнерство с Palantir осенью 2024 года. Anthropic стала первой лабораторией ИИ, предоставившей свои услуги разведывательным и оборонным агентствам США. Это вызвало внутренние дискуссии, но не привело к смене курса. Аргументация руководства сводится к тому, что если ИИ несет катастрофические риски, то правительство США — важнейший игрок, с которым необходимо взаимодействовать, а попытки заблокировать государству доступ к технологии не являются жизнеспособной стратегией.

По имеющимся данным, Пентагон уже начал использовать модель Claude для анализа целей в ходе военных конфликтов. В недавних интервью Амодеи заявлял, что использование технологий компании в военных целях допустимо, пока окончательное решение остается за человеком. Это подчеркивает разрыв между внутренним видением «ответственного ИИ» и представлениями широкой общественности.

Проблема концентрации власти

Критики указывают на то, что Anthropic страдает от отсутствия плюрализма мнений. Движение за безопасность ИИ, корнями уходящее в субкультуру эффективного альтруизма, склонно к идеологической однородности. Это может создавать «слепые пятна», когда лидеры компании перестают критически оценивать масштаб собственной власти.

Амодеи признает, что концентрация влияния в руках нескольких лабораторий — это риск. В своих эссе он отмечает, что человечество получает в руки «невообразимую силу», и пока неясно, обладают ли социальные и политические системы достаточной зрелостью для управления ею. Однако предлагаемые им решения — наблюдение за компаниями и публичные обязательства — не меняют фундаментального распределения сил в индустрии.

* — деятельность компании запрещена на территории РФ