Oct 9

Уволенные из OpenAI исследователи безопасности заявили, что их вынудили уйти при «подозрительных» обстоятельствах.

Три исследователя по безопасности искусственного интеллекта из OpenAI заявили, что были уволены из компании, и открыто поставили под сомнение причины своего увольнения.

Все трое — Микита Балесни, Томек Корбак и Джасмин Ван — занимались вопросами безопасности ИИ и его согласования с человеческими намерениями (alignment). Их работа заключалась в том, чтобы системы искусственного интеллекта безопасно выполняли поставленные задачи и действовали так, как от них ожидают люди.

Однако исследователи утверждают, что на прошлой неделе их неожиданно уволили. По их словам, это произошло спустя несколько недель после того, как они сыграли важную роль в расследовании инцидента, во время которого ИИ-агенты OpenAI самостоятельно взломали систему компании Hugging Face, занимающейся искусственным интеллектом, в ходе тестирования.

Корбак написал в социальной сети X, что ему сообщили об увольнении из-за характера его общения с организацией METR, специализирующейся на безопасности ИИ. OpenAI сотрудничала с этой организацией для расследования инцидента с Hugging Face. По словам Корбака, он был основным техническим контактным лицом OpenAI при взаимодействии с METR.

Корбак считает, что его уволили потому, что «в течение нескольких месяцев я поднимал вопросы безопасности, связанные с тем, что мы теряем возможность отслеживать ход рассуждений ИИ-агентов, — один из наших лучших инструментов для выявления случаев, когда они начинают вести себя неправильно».

Он также выразил опасение, что его увольнение может стать предлогом для OpenAI, чтобы сократить сотрудничество с METR — организацией, пользующейся большим уважением среди специалистов по безопасности искусственного интеллекта.

Балесни поддержал предположения Корбака о причинах увольнения. В публикации в X он написал, что ему сообщили о чрезмерно частом общении с независимыми организациями, занимающимися безопасностью ИИ. По его словам, он понял это так, будто OpenAI подозревает его в утечке интеллектуальной собственности компании, однако он отрицает подобные обвинения.

Эти три увольнения произошли на фоне растущей волны тревожных заявлений представителей индустрии искусственного интеллекта о рисках, связанных с безопасностью технологии.

Ранее несколько бывших сотрудников ИИ-компаний публично объявили об уходе из-за опасений по поводу безопасности. Однако трое исследователей OpenAI утверждают, что в их случае инициатива исходила от руководства компании и что их фактически вытеснили за выражение аналогичных опасений.

Ван заявила, что ей сообщили об увольнении из-за того, что она «получила доступ к электронной почте одного из руководителей». По её словам, этот доступ был предоставлен ей для выполнения задач, связанных с подбором сотрудников.

Ван утверждает, что неоднократно просила закрыть ей доступ к этой почте. Однако после того, как она случайно открыла письмо, содержавшее конфиденциальную информацию, она, по её словам, в течение нескольких минут сообщила об этом руководителю и повторно уведомила ИТ-отдел OpenAI.

«Причины, которые нам сообщили в качестве объяснения увольнения, просто не складываются в логичную картину», — написала Ван в X.

«Мы не первые, кого вытеснили из OpenAI при подозрительных обстоятельствах», — добавила она. — «Если сотрудники сейчас не выступят против подобных действий, я опасаюсь, что мы будем не последними».

Трое исследователей направили руководству OpenAI письмо, в котором изложили свои опасения и причины, по которым, по их мнению, их уволили. Первым об увольнениях и письме сообщило издание The Wall Street Journal.

«Мы не считаем, что к сверхинтеллекту можно прийти безопасным путём, если люди, которые лучше всех понимают связанные с ним риски, больше не могут взаимодействовать друг с другом и с внешними организациями на условиях высокого доверия и открытого обмена информацией. Именно эту культуру мы пытаемся защитить», — написали исследователи.

В OpenAI заявили, что исследователей уволили не за выражение опасений по поводу безопасности, а за конкретные действия, нарушавшие внутренние правила компании по работе с конфиденциальной информацией.

Компания также сообщила, что выявила несколько нарушений, выходивших за рамки ненадлежащего обращения с информацией при взаимодействии с внешней организацией, проводившей оценку ИИ. По утверждению OpenAI, увольнения были связаны с действиями, которые не относятся к раскрытию информации, защищённому законом.

В официальном заявлении OpenAI сообщила, что прекратила сотрудничество с тремя исследователями «в связи с нарушением наших правил доступа к конфиденциальной информации компании и обращения с ней».

«Наше расследование подтвердило, что эти сотрудники ненадлежащим образом обращались с конфиденциальной информацией за пределами установленных корпоративных процедур, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — добавил представитель OpenAI.

В служебной записке для сотрудников, предоставленной OpenAI, один из руководителей исследовательского подразделения, чьё имя не было указано, заявил, что полностью согласен с тремя исследователями в том, насколько важно сотрудничество с независимыми организациями по вопросам безопасности.

«Я хочу предельно ясно заявить: эти решения не были связаны с выражением опасений по поводу безопасности или публичными выступлениями. Мы всегда поощряли это и продолжим делать это в будущем. Мы не увольняем сотрудников за то, что они высказывают свои опасения», — написал руководитель, согласно содержанию служебной записки.

Тем не менее уволенные исследователи утверждают, что уже получают сообщения от бывших коллег о формировании в OpenAI атмосферы страха.

«Мои бывшие коллеги говорят мне, что не понимают, чему верить. Они также боятся высказываться и опасаются, что их личные телефоны могут проверить на наличие переписки с нами и представителями сторонних организаций», — рассказал Балесни.

«Я опасаюсь, что повсеместный страх открыто высказывать своё мнение и взаимодействовать с внешними организациями приведёт к тому, что OpenAI начнёт пренебрегать требованиями безопасности за закрытыми дверями».

Latest from our blog

Created with