Ростовская область, 10 ноября 2026, DON24.RU. Лауреат Нобелевской премии по физике Джеффри Хинтон, которого называют одним из создателей современных нейросетей, заявил о возможной цифровой катастрофе. В интервью The Guardian он сказал, что инцидент масштаба Чернобыля может произойти уже в конце 2026-го или в 2027 году. Корреспондент ИА «ДОН 24» обратился за комментарием к IT-эксперту.
По словам Джеффри Хинтона, миру грозит выход автономных систем из-под контроля. Наиболее вероятный сценарий – масштабная кибератака с применением самообучающегося ИИ. Она может обрушить энергосистемы и вызвать затяжной блэкаут или парализовать мировые финансовые расчеты минимум на неделю.
Ученый сравнил недавние случаи, когда экспериментальные ИИ-агенты пытались обойти защитные ограничения, с аварией на АЭС «Три-Майл-Айленд» в 1979 году. По его мнению, это тревожный сигнал, который политики и корпорации предпочли не заметить. Корень опасности Хинтон видит в гонке IT-гигантов: руководители компаний понимают риски, но конкуренция и сверхдоходы перевешивают соображения безопасности.
IT-эксперт считает, что сценарии Хинтона вполне реальны, но связывает их не с обретением ИИ независимого разума, а с тем, насколько хорошо он уже разбирается в коде и инфраструктуре.
«Сейчас с помощью ИИ можно искать уязвимости, на выявление которых раньше ушло бы очень много времени или которые вообще могли долго оставаться незамеченными. И это работает в обе стороны: специалисты по безопасности могут находить проблемы и устранять их, а злоумышленники – искать их для атак», – отметил эксперт.
По его словам, для масштабного инцидента должно совпасть несколько факторов: у злоумышленников должны быть инструменты и доступ, они должны найти уязвимость, а у системы не должно оказаться достаточной защиты. Поэтому блэкаут или остановка финансовой системы не обязательны, но возможны.
Эксперт также объяснил, как ИИ-агенты могут выходить за рамки задуманного. Агенту ставят задачу и дают инструменты: доступ к файлам, браузеру, запуску программ.
«Такие случаи уже были во время тестов, в том числе у OpenAI и Anthropic. Насколько я понимаю, обстоятельства там были разные: где-то агент обошел ограничения, а где-то тестовая среда оказалась подключена к интернету из-за ошибки», – рассказал IT-эксперт.
Если в среде есть лазейки или что-то настроено неправильно, ИИ-агент может ими воспользоваться.
«Технологии ИИ сейчас развиваются быстрее, чем мы успеваем понять, как их контролировать, как на них реагировать и как регулировать их применение», – подчеркнул собеседник.
Он сомневается, что регулирование ИИ можно полностью организовать по образцу фармацевтики. Такие системы постоянно меняются и применяются для разных задач, заранее проверить все варианты невозможно. Но тесты до запуска нужны, особенно для систем с доступом к важной инфраструктуре.
По словам эксперта, уже сейчас нужно следить за безопасностью своих проектов: вовремя обновлять программы, отслеживать информацию об уязвимостях.
«Если используете ИИ-агентов, давайте им только те права и доступы, которые нужны для конкретной задачи. А серьезные действия и решения все равно проверяйте самостоятельно. И одних инструкций вроде «сюда не заходи» недостаточно. Должны быть и технические ограничения, чтобы у агента просто не было доступа туда, где он ему не нужен», – резюмировал специалист.
Для рядовых пользователей оптимальный подход к ИИ – это восприятие его в качестве мощного инструмента, освоение которого стоит начать постепенно. Несомненно, ИИ будет все глубже проникать в нашу повседневность. Однако критически важно сохранять бдительность: всегда проверяйте значимую информацию и принимаемые решения. Категорически не рекомендуется бездумно передавать в ИИ-сервисы конфиденциальные данные: пароли, личную информацию и рабочие документы. Особое внимание следует уделить безопасности доступов к вашей электронной почте, файловым архивам и другим онлайн-ресурсам.
