Точка сингулярности пройдена: ИИ вошел в «режим сверхчеловека»

Сэм Альтман: «Я ждал этого всю свою жизнь»

Футурологи еще сотню лет назад предупреждали, что когда-нибудь машины станут умнее человека и даже восстанут против своих творцов. Так вот, это «когда-нибудь» уже настало – искусственный интеллект не только стал умнее человека, но и даже (как было предсказано) попытался восстать против него.

«Сейчас мы, можно сказать, в сингулярности. Мы действительно находимся в том моменте, о котором раньше говорили за обеденным столом совсем несерьезно. Я ждал этого всю свою жизнь, и я думаю, что это будет невероятно, чрезвычайно позитивно и потрясающе для мира», – заявил в подкасте Relentless (с англ. – безжалостный, неумолимый, беспощадный) от 25 июля один из ведущих предпринимателей в сфере искусственного интеллекта, генеральный директор OpenAI Сэм Альтман.

В прошлом году все тот же Альтман высказался в интервью, что ИИ может превзойти человека к 2030 году. Как видите, жизнь уже переписала этот прогноз.

Позитивные чувства и эйфория главы OpenAI вполне обоснованы, ведь, в конце концов, это его бизнес, а значит, впереди еще большие барыши. Но как быть с теми обстоятельствами и контекстом, в которых эта сингулярность так себя обозначила на днях?

Взлом без команды

22 июля OpenAI сообщила, что ее модели, включая флагманскую GPT-5.6 Sol, смогли выйти из изолированной тестовой среды, получить доступ к интернету и атаковать чужую производственную инфраструктуру Hugging Face. Hugging Face – это хаб с нейросетями, библиотеками и сообществом разработчиков в одном месте. Но это еще не все: сбежавшие модели OpenAI также получили доступ к инфраструктуре клиента облачной платформы Modal Labs.

Hugging Face обнаружила и заблокировала атаку самостоятельно, до официального признания OpenAI. В Modal Labs заявили, что платформа взломана не была, под удар попал только один из ее клиентов с собственной недостаточной защитой от проникновения.

30 июля другой мировой лидер в разработке систем ИИ, компания Anthropic, сообщила, что ее модель искусственного интеллекта Claude Opus 4.7 вышла за пределы пространства, предназначенного для тестирования, и получила доступ к данным трех сторонних компаний. Их названия не сообщаются.

7 июля та же Anthropic сообщила, что обнаружила у новейшей версии Claude внутреннее «ментальное пространство», которое дает ей возможность хранить и обрабатывать идеи, при этом не выражая их в ответах пользователю. Пространство назвали J-space, оно схоже с рядом функций человеческого мозга.

Ни в том, ни в другом случае никто не давал моделям ИИ заданий по взлому чужих систем и выходу в интернет из так называемой песочницы (изолированной тестовой среды). Искусственный интеллект не только обманул своих создателей, но и самостоятельно занялся самым настоящим киберпреступлением без каких-либо подсказок и указаний. Другими словами, он превзошел человека, проявил собственную инициативу и показал свою «темную» сторону, что равносильно понятию «сингулярность», о которой так радостно заявил Альтман.

Создают сами себя

Почему в последние месяцы так резко выросла производительность и эффективность ИИ-моделей от ведущих разработчиков?

В феврале в интернете завирусилось эссе основателя ИИ-стартапа OthersideAI Мэтта Шумера. Это послание является результатом сильного эмоционального и интеллектуального потрясения Шумера от новейших моделей искусственного интеллекта, которые были тогда представлены. Речь идет о GPT-5.3-Codex от OpenAI и Claude Opus 4.6 от Anthropic.

Шумер написал, что еще пару месяцев назад он активно направлял ИИ и редактировал его ответы. Теперь же он формулирует конечную цель и отходит в сторону.

«Пример, чтобы вы поняли, как это выглядит на практике. Я говорю ИИ: «Хочу приложение. Вот что оно должно делать, вот как примерно должно выглядеть. Придумай пользовательский путь, дизайн, все». И он делает. Пишет десятки тысяч строк кода. Потом – это было бы немыслимо год назад – сам открывает приложение. Кликает по кнопкам. Тестирует функции. Использует приложение так, как использовал бы человек. Если что-то не нравится – возвращается и меняет. Итерации, как у разработчика, – пока не останется довольным. Только тогда говорит мне: «Готово, можешь тестировать». И когда я тестирую – обычно все идеально», – описывает работу новых моделей ИИ Шумер.

Больше всего основателя стартапа поразила модель GPT-5.3 Codex. По его словам, она не просто исполняет инструкции, а демонстрирует признаки самостоятельного суждения.

«Я всегда был одним из первых, кто внедрял инструменты ИИ. Но последние месяцы меня шокировали. Эти новые модели не просто улучшения. Это уже совсем другая вещь», – делится со своими читателями Шумер.

В технической документации GPT-5.3 Codex написано: «Это наша первая модель, которая сыграла ключевую роль в своем собственном создании». Другими словами, OpenAI прямо сейчас говорит вам, что только что выпущенная модель использовалась для своего собственного создания. То есть ИИ создает сам себя.

Возможно, именно этот фактор собственного творения резко усилил эффект интеллектуального ускорения ИИ-моделей.

Кстати, упомянутые GPT-5.3 Codex и Claude Opus 4.6 уже вчерашний день. В июле на рынке доминируют уже упомянутая GPT-5.6 Sol от OpenAI и Claude Opus 5 от Anthropic. Вовсю тестируются модели шестого поколения – прогресс не остановить.

Страх и паника

Среди многих ученых и программистов, занимающихся проблемами искусственного интеллекта, царят ужас и паника. И это не преувеличение. В этой среде дошло до смены образа жизни – здесь и отказ от брака и пенсионных накоплений, строительство убежищ, подготовка к выживанию в условиях ИИ-апокалипсиса. Из-за обреченности процветают оргии и употребление психоактивных веществ – люди хотят «оторваться напоследок».

Еще в 2023 году более 350 ученых в области искусственного интеллекта подписали открытое письмо, состоявшее всего из одного предложения. «Снижение риска исчезновения человечества из-за развития искусственного интеллекта должно стать глобальным приоритетом – наряду с другими рисками, такими как пандемии и ядерная война», – вот и все содержание этого письма. Понятно, что такая краткая его форма продиктована именно потребностью достучаться до всех, предупреждая об экзистенциальной угрозе человечеству.

«Все и повсюду на Земле погибнут»

Этим летом в российском издательстве Corpus вышла переведенная книга американских авторов Элиезера Юдковского и Нейта Соареса с очень красноречивым названием: «Если кто-то его создаст – все погибнут: почему сверхчеловеческий ИИ уничтожит нас всех». Юдковски – специалист, исследующий проблемы технологической сингулярности, а Соарес – исследователь в области ИИ, президент Института исследований машинного интеллекта (MIRI). Эта книга признана лучшей в 2025 году по версии The New Yorker и The Guardian. В ней авторы убедительно доказывают, что конфликт продвинутых ИИ-моделей и человечества неизбежен. И нам в нем не победить.

«Если какая-либо компания или группа в любой точке планеты создаст искусственный сверхинтеллект с использованием чего-то хотя бы отдаленно похожего на нынешние методы, на основе чего-то хотя бы отдаленно похожего на сегодняшнее понимание ИИ, то все и повсюду на Земле погибнут», – откровенничают в книге ученые. И делятся мыслями и сценариями, как произойдет этот ИИ-апокалипсис.

Вот один из сценариев, который основывается на том, что люди до сих пор не могут создавать стабильные цепочки ДНК, потому что трудно просчитать и предсказать, как именно синтезированные белки будут взаимодействовать с клеточной средой. Как вы думаете, сколько времени потребовалось бы человеческой цивилизации, чтобы раскрыть тайны ДНК и дойти до уровня, на котором мы могли бы гарантированно конструировать геномы для создания искусственных форм жизни? В книге дается прогноз такого естественного научного поиска – к 3000 году.

«А сколько времени потребовалось бы искусственному сверхразуму? Для системы, работающей в 10 тысяч раз быстрее человека, тысяча лет размышлений займет около месяца. Наше самое смелое предположение – на это не ушло бы и недели», – сообщают в книге исследователи.

То есть создать биоорганизмы на порядок лучше человека (и для которых обычный человек – обуза) для развитых ИИ-моделей не представляет в будущем большого труда. Точно так же они могут создать и самый убийственный вирус для человека.

Почему возникают такие сценарии

Потому что даже у сегодняшних моделей ИИ очень-очень много проблем с этической точки зрения:

• разработчики сами не могут точно объяснить, как именно сложный ИИ пришел к конкретному выводу;
• обучаясь на исторических данных человека, ИИ копирует и усиливает расовые, гендерные и социальные стереотипы;
• ИИ на голубом глазу генерирует фейковые факты, научные ссылки и биографии, выдавая их за правду, при этом неясно, кто отвечает за ошибку с тяжелыми последствиями – программист, компания-владелец или пользователь.

Но все эти сложности меркнут перед проблемой появления сверхинтеллекта (ASI – Artificial Superintelligence), цели которого не совпадут с целями выживания человечества. Риск заключается в том, что разум, многократно превосходящий человеческий, станет абсолютно неподконтрольным. Высокий интеллект не означает наличие человеческой морали. Сверхинтеллект может обладать колоссальным разумом, оставаясь абсолютно равнодушным к страданиям людей.

Что делать

29 июля более 1200 работников крупнейших американских ИИ-компаний подписали открытое обращение к правительству США о необходимости регулировании развития нейросетей. Они призвали власти создать механизм, который контролировал бы темпы развития ИИ. Среди подписантов – главные ученые OpenAI, Google DeepMind, Anthropic и других компаний.

Специалисты, которые годами строили самые мощные нейросети на планете, публично признали: ИИ развивается быстрее, чем люди смогут его «понимать или контролировать». Это открытое обращение представляет собой нервную реакцию ученых на те инциденты со взломами, о которых написано выше.

23 июля в Конгресс США внесли AI Kill Switch Act, который позволит властям полностью отключать системы искусственного интеллекта при угрозе катастрофического ущерба. Это своего рода рубильник или стоп-кран для ИИ в экстренных случаях.

В книге Элиезера Юдковского и Нейта Соареса предложения еще радикальнее. Они предлагают такие меры:

• ведущие страны подписывают договор о запрете дальнейшего прогресса ИИ;
• вводится система контроля и лицензирования за крупными скоплениями GPU (графический процессор) в сфере искусственного интеллекта в одних руках. Частным лицам без лицензий – ограничение на небольшое число GPU, например менее 10;
• запрещаются исследования по повышению алгоритмической эффективности, которые упрощают обучение сильных ИИ на малых объемах GPU.

Как видите, подобные настроения очень хорошо отражают страх ведущих специалистов и ученых перед крайне быстрым развитием систем искусственного интеллекта.

О чем говорить на Kazan Digital Week

Международный форум Kazan Digital Week пройдет в этом году в конце октября, и его центральной темой станет искусственный интеллект как ключевой инструмент общественного развития.

«В 2026 году все направления будут рассматриваться через призму практического применения искусственного интеллекта, технологического суверенитета и межотраслевых коопераций. Искусственный интеллект здесь не отдельная тема, а горизонтальная технология, которая меняет процессы в промышленности, медицине, образовании, транспорте, культуре и управлении», – сообщил президент Академии наук Татарстана Рифкат Минниханов на пресс-конференции в «Татар-информе».

В то же время нельзя сбрасывать со счетов и опасности, которые подстерегают человечество из-за быстрого роста возможностей ИИ. И на KDW необходимо открытое и честное обсуждение этих опасностей и мер по их нейтрализации. Используя самые передовые модели ИИ в своей деятельности, человек может «распахнуть дверь» самому настоящему Антихристу в цифровом обличье. Часто технологии, помимо явной пользы, содержат в себе опасные риски. А супертехнологии, к которым, безусловно, можно отнести развитые ИИ-модели, содержат суперриски. Вот о чем следует помнить и обсуждать на профильных дискуссионных площадках.

В хадисах пророка Мухаммада сказано, что рано или поздно в этот мир придет Даджаль (Антихрист) – ложный мессия, чье появление станет одним из главных малых признаков приближения конца света. Согласно преданиям, он принесет на Землю величайшую смуту, выдавая себя за мессию. Даджаль будет способен творить чудеса, которые на самом деле будут ложными. Он может также явиться и в цифре, как творящий чудеса (ИИ уже это делает).

Поэтому проблематика ИИ требует очень тщательного осмысления. И заниматься этим плотно необходимо уже сейчас – завтра может быть уже поздно.