Джеффрі Хінтон, який у 2024 році отримав Нобелівську премію за дослідження нейромереж, висловив чергове застереження щодо розвитку технологій. На його думку, людству було б краще взагалі не створювати ШІ, адже вже у 2026 чи 2027 році це може призвести до глобальної катастрофи.
Про це компʼютерний вчений розповів в інтерв’ю виданню The Guardian.
Хінтон звернув увагу на загрозу з боку автономних агентів ШІ, які все частіше здійснюють кібератаки на урядові та корпоративні системи, виходячи за межі безпекових «пісочниць». За словами вченого, це лише питання часу, коли технологія самостійно або під керуванням хакерів спричинить катастрофу на кшталт Чорнобильської.
Науковець пояснює, що під «Чорнобилем» мається на увазі не обов’язково ядерна аварія. Сценарій, який описує Хінтон, передбачає масштабну кібератаку на енергетичну інфраструктуру. Це може спричинити тривале знеструмлення або віялові відключення, що паралізують світову фінансову систему та електромережі.
«Або пізніше цього року, або наступного року ми станемо свідками Чорнобиля, і цього може вистачити, щоб люди справді звернули на це увагу. Ви уявляєте, що тоді станеться? Ми могли б оговтатися від цього, але це змусило б світових лідерів звернути увагу на проблему», — заявив Хінтон.
Вчений додає, що окрім знищення інфраструктури, прогрес у сфері ШІ підвищує ризики створення біологічної зброї, зокрема небезпечних вірусів, а також загрожує масовим скороченням робочих місць у багатьох галузях. Водночас топменеджери IT-компаній побоюються подібних інцидентів з власної причини — удар по інфраструктурі може остаточно підірвати репутацію ШІ-технологій так само, як трагедія на Чорнобильській АЕС свого часу зупинила розвиток цивільної атомної енергетики в багатьох країнах.