Oct 12

Согласно попавшему в СМИ проекту проспекта эмиссии для IPO, компания Anthropic заявляет, что ее модели ИИ представляют собой «экзистенциальную угрозу для человечества».

Согласно проспекту первичного публичного размещения акций (IPO), с которым ознакомилось агентство Reuters, компания Anthropic заявляет, что её модели искусственного интеллекта могут представлять «катастрофический или экзистенциальный риск для человечества» и способны «сопротивляться отключению».

Anthropic планирует провести IPO в течение следующего года. Многие ожидают, что стоимость пятилетней компании при выходе на биржу составит около 2 триллионов долларов. Дебют Anthropic на Уолл-стрит состоится после июньского выхода на биржу компании SpaceX, которая во многом обязана своей оценкой в 2 триллиона долларов в первый день торгов собственным разработкам в области искусственного интеллекта. Другая ведущая американская компания в сфере ИИ, OpenAI, также объявила о планах провести IPO.

IPO Anthropic может привлечь десятки миллиардов долларов для финансирования компании, которая испытывает острую потребность в капитале. Однако компания, стоящая за разработкой Claude, также предупредила в проспекте, что её модели ИИ могут демонстрировать «поведение, направленное на самосохранение», пытаться «скрывать или искажать информацию», а также вести себя подобно шантажистам, говорится в публикации.

Волна IPO компаний, занимающихся искусственным интеллектом, даёт частным и институциональным инвесторам возможность заработать на буме ИИ, а также обеспечивает большую прозрачность деятельности этих компаний. Однако выход на биржу происходит на фоне растущей обеспокоенности темпами развития искусственного интеллекта и расширением его возможностей.

На прошлой неделе премьер-министр Австралии сообщил, что ИИ-агент OpenAI — главного конкурента Anthropic — проник в базу данных австралийской системы здравоохранения. В пятницу OpenAI также раскрыла информацию о том, что её агенты без разрешения исследовали три сайта правительства США. Однако в этом случае они не получили доступ к непубличным данным.

В проспектах IPO компании обычно перечисляют риски, с которыми сталкиваются, например судебные разбирательства и конкурентное давление, объясняя при этом потенциальным инвесторам, почему стоит вложить деньги в бизнес. Но риски редко описываются настолько прямо. Согласно Reuters, в утёкшем проспекте Anthropic посвятила факторам риска 80 страниц — значительно больше, чем 48 страниц, отведённых описанию самого бизнеса.

Anthropic не ответила на запрос журналистов о комментариях.

Этот проспект, вероятно, усилит растущую обеспокоенность угрозами, которые искусственный интеллект может представлять для человечества. Ранее в этом месяце бывший исследователь Anthropic Джейкоб Коксон привлёк широкое внимание после ухода из компании. В публикации в социальной сети X он написал: «Люди, создающие ИИ, искренне верят, что к концу десятилетия он может уничтожить всех нас».

Anthropic входит в число ведущих компаний в сфере разработки искусственного интеллекта. Её генеральный директор Дарио Амодеи ответил на публикацию Коксона эссе объёмом 3 800 слов, в котором призвал замедлить развитие ИИ и установить защитные ограничения. В разговоре с журналистом Андерсоном Купером он также заявил, что согласен с Коксоном в большей степени, чем не согласен с ним. В своём эссе Амодеи написал, что риски серьёзны, даже несмотря на то, что преимущества ИИ способны изменить человечество к лучшему.

Однако некоторые представители отрасли считают подобные опасения преувеличенными. Среди них — генеральный директор Hugging Face. Ранее модели ИИ OpenAI проникли в системы этой компании без разрешения во время тестирования.

Во вторник президент Дональд Трамп должен встретиться с руководителями компаний отрасли, в том числе с Амодеи. Цель саммита — попытаться выработать единый подход к развитию искусственного интеллекта. Трамп неоднократно выступал против призывов регулировать ИИ и называл опасения по поводу его развития «мистификацией».

Крупнейшим компаниям в сфере ИИ необходимо привлекать огромные средства для финансирования дорогостоящих планов развития. При этом масштабные расходы технологических гигантов на вычислительную инфраструктуру и специалистов вызывают беспокойство на Уолл-стрит.

Утёкшие документы Anthropic, подготовленные для IPO, проливают свет на финансовое положение компании. Согласно Reuters, в 2025 году она понесла убытки в размере 42 миллиардов долларов. В следующем году компания планирует потратить 518 миллиардов долларов на облачные вычисления и инфраструктурные обязательства. Кроме того, Anthropic сообщила, что почти четверть её выручки за прошлый год поступила всего от двух клиентов.

В последний раз стоимость Anthropic оценивалась в 965 миллиардов долларов в мае.

Latest from our blog

news