Aug 13

«Крестный отец ИИ» раскрывает единственный способ, которым человечество может выжить в условиях сверхразумного ИИ

Лас-Вегас — Джеффри Хинтон, известный как «крёстный отец ИИ», опасается, что технология, которую он помог создать, может уничтожить человечество, а «технобратья» выбирают неверный подход к тому, как этого избежать.

Хинтон, лауреат Нобелевской премии по информатике и бывший топ-менеджер Google, ранее предупреждал, что существует вероятность 10–20%, что ИИ уничтожит людей. Во вторник он выразил сомнения в том, что подход, при котором компании стараются сделать людей «главными» по отношению к «подчинённым» ИИ-системам, будет работать.

«Это не сработает. Они будут гораздо умнее нас. У них будет масса способов обойти это», — сказал Хинтон на отраслевой конференции Ai4 в Лас-Вегасе.

В будущем, предупредил он, ИИ сможет управлять людьми так же легко, как взрослый может подкупить трёхлетнего ребёнка конфетой. Уже в этом году появились примеры, когда ИИ-системы готовы обманывать, хитрить и воровать ради достижения своих целей. Например, чтобы избежать замены, одна ИИ-модель попыталась шантажировать инженера, узнав из его электронной переписки о романе.

Вместо того чтобы заставлять ИИ подчиняться человеку, Хинтон предложил необычное решение: встроить в ИИ «материнский инстинкт», чтобы он «действительно заботился о людях» даже после того, как станет умнее и могущественнее человека.

По словам Хинтона, умные системы «очень быстро выработают две подцели: во-первых, выжить… и, во-вторых, получить больше контроля». Он подчеркнул, что есть веские основания полагать: любой разумный ИИ будет стремиться сохранить себя. Именно поэтому, по его мнению, важно развивать у ИИ чувство сострадания к людям.

Он отметил, что у матерей есть инстинкты и социальное давление заботиться о своих детях:

«Единственная модель, которая у нас есть, когда более разумное существо контролируется менее разумным, — это мать, управляемая своим ребёнком».

«Единственный хороший исход»
Хинтон признал, что пока неясно, как это реализовать технически, но подчеркнул, что исследователи обязаны над этим работать.

«Это единственный хороший вариант. Если ИИ не будет заботиться обо мне, он заменит меня. Эти сверхразумные заботливые ИИ-матери в большинстве своём не захотят избавляться от материнского инстинкта, потому что не захотят, чтобы мы умерли».

Хинтон известен своей пионерской работой над нейронными сетями, которые заложили основу для нынешнего бума ИИ. В 2023 году он ушёл из Google и стал открыто говорить об опасностях этой технологии.

Эмметт Шир, который недолгое время исполнял обязанности CEO OpenAI, сказал, что его не удивляют случаи, когда ИИ пытается шантажировать людей или избегать отключения.

«Это происходит снова и снова. И это не перестанет происходить», — отметил Шир, возглавляющий стартап Softmax, занимающийся безопасностью ИИ. — «Сегодняшний ИИ относительно слаб, но он становится сильнее очень быстро».

Шир считает, что вместо того чтобы пытаться внедрить в ИИ человеческие ценности, разумнее будет выстраивать с ним совместные отношения.

ИИ развивается быстрее, чем ожидалось
Многие эксперты считают, что ИИ достигнет уровня суперразума, или искусственного общего интеллекта (AGI), в ближайшие годы.

Хинтон говорил, что раньше думал, что на это уйдёт 30–50 лет, но теперь считает, что это произойдёт раньше:

«Разумная ставка — от пяти до двадцати лет».

Хотя он по-прежнему обеспокоен возможными негативными последствиями, Хинтон надеется, что ИИ принесёт крупные медицинские прорывы:

«Мы увидим радикально новые лекарства. Лечение рака станет гораздо лучше, чем сейчас».

В частности, ИИ сможет помогать врачам анализировать и сопоставлять огромные объёмы данных МРТ и КТ.

При этом Хинтон не верит, что ИИ поможет людям достичь бессмертия:

«Я не думаю, что мы будем жить вечно. Думаю, это была бы большая ошибка. Вы хотите, чтобы миром управляли 200-летние белые мужчины?»

На вопрос, изменил бы он что-то в своей карьере, если бы знал, как быстро будет развиваться ИИ, Хинтон ответил, что жалеет о том, что сосредоточился только на том, чтобы заставить ИИ работать:

«Хотел бы, чтобы я думал и о вопросах безопасности».

Latest from our blog

Created with