Дослідники переступають небезпечний поріг: представлено революційний штучний інтелект, здатний зламати будь-яку систему.

Дослідники з Університету Торонто представили прототип комп’ютерного черв’яка на базі штучного інтелекту, здатного самостійно зламувати майже будь-яку систему. Це інтелектуальне шкідливе програмне забезпечення аналізує свою ціль у режимі реального часу та адаптує свою стратегію без втручання людини. Це вже не наукова фантастика; це реальність, і вона жахлива.

Розсудливий черв’як, таке ще не чули!

Команда професора Ніколаса Паперно створила шкідливе програмне забезпечення, яке використовує модель штучного інтелекту з відкритим кодом, щоб «думати» перед атакою. На відміну від традиційних вірусів, які використовують фіксовану вразливість, цей імпровізує на основі виявлених вразливостей. Він може працювати як на Windows, так і на Linux, що робить його неймовірно універсальним.

Тести проводилися в середовищі, ізольованому від глобальної мережі, щоб уникнути спровокування цифрового апокаліпсису. Але результати очевидні: після потрапляння на машину черв’як знаходить свій шлях і поширюється самостійно. Papernot попереджав, що для захисту від нього потрібна ідеально безпечна система, і ми знаємо, що такої системи не існує.

Від SQL Slammer до ШІ: покоління, яке змінює все

Ми пам’ятаємо WannaCry у 2017 році, який паралізував сотні тисяч комп’ютерів. Але цей черв’як використав одну вразливість, і як тільки було встановлено патч, спалах припинився. Тут шкідливе програмне забезпечення змінює свій вигляд з кожною новою ціллю, роблячи традиційні патчі застарілими.

Дослідники навмисно приховали точну назву використаної моделі штучного інтелекту та приховали конфіденційні деталі зі своєї публікації. Але посил зрозумілий: якщо вчені можуть це зробити, добре організовані хакери можуть зробити те саме, і більш непомітно.

Відкритий код: скринька Пандори широко відкрита

На відміну від таких гігантів, як OpenAI або Anthropic, які щільно заблокували свої моделі, команда з Торонто використовувала штучний інтелект з відкритим кодом. Звичайно, це викликає занепокоєння. Код доступний, а це означає, що будь-хто може його змінити та перетворити на зброю. Дослідники попереджали, але шкода вже завдана.

Дехто стверджує, що відкритий код також дозволяє створювати автоматизовані засоби захисту. Девід Лі, ще один професор університету, навіть пропонує масово розповсюджувати «м’які» версії цього черв’яка, щоб виправляти вразливості, перш ніж це зроблять хакери. Але тим часом компанії повинні готуватися до нової ери проактивної кібербезпеки: питання вже не в реагуванні після атаки, а в її передбаченні.

Цифрова гонка озброєнь розпочалася.

Anthropic відмовилася комерціалізувати Claude Mythos, свою останню модель штучного інтелекту, вважаючи її занадто вразливою для злому. OpenAI наслідувала цей приклад, запровадивши аналогічні обмеження на свої технології. Але питання залишається відкритим: чи буде достатньо збереження цих моделей у таємниці, щоб зупинити загрозу? Це невідомо, враховуючи, що аналогічні моделі з відкритим кодом вже існують.

Паніка поширюється Кремнієвою долиною. Компанії усвідомлюють, що пасивна кібербезпека — очікування оновлень і надія на краще — мертва. Тепер їм потрібні системи, здатні захищатися в режимі реального часу, з власним штучним інтелектом. Проблема в тому, що хакери також мають доступ до цих інструментів. Хто стрілятиме першим?

Тим часом я збираюся дістати свій старий апаратний брандмауер і частіше перевіряти журнали. Бо такі новини викликають бажання все відключити та повернутися до старих добрих часів BBS. Але вже надто пізно: скринька Пандори відкрита.

Джерело: www.jeuxvideo.com