Naukowcy przekroczyli niebezpieczny próg: odkryto rewolucyjną sztuczną inteligencję zdolną zhakować każdy system.

Naukowcy z Uniwersytetu w Toronto zaprezentowali prototyp robaka komputerowego opartego na sztucznej inteligencji, który jest w stanie samodzielnie włamać się do niemal każdego systemu. Ten inteligentny malware analizuje swój cel w czasie rzeczywistym i dostosowuje strategię bez ingerencji człowieka. To już nie science fiction, to przerażająca rzeczywistość.

Rozumny robak, to niesłychane!

Zespół profesora Nicolasa Papernota stworzył złośliwe oprogramowanie, które wykorzystuje model sztucznej inteligencji typu open source do „myślenia” przed atakiem. W przeciwieństwie do tradycyjnych wirusów, które wykorzystują ustaloną lukę w zabezpieczeniach, ten improwizuje w oparciu o wykryte luki. Działa zarówno w systemach Windows, jak i Linux, co czyni go niezwykle wszechstronnym.

Testy przeprowadzono w środowisku odizolowanym od sieci globalnej, aby uniknąć wywołania cyfrowej apokalipsy. Wyniki są jednak jednoznaczne: po wdrożeniu na komputerze robak odnajduje drogę i rozprzestrzenia się samodzielnie. Papernot ostrzegał, że do obrony przed nim potrzebny będzie idealnie bezpieczny system, a wiemy, że taki system nie istnieje.

Od SQL Slammer do AI: pokolenie, które zmienia wszystko

Pamiętamy WannaCry z 2017 roku, który sparaliżował setki tysięcy komputerów. Jednak ten robak wykorzystywał jedną lukę w zabezpieczeniach i po zainstalowaniu łatki epidemia ustała. W tym przypadku złośliwe oprogramowanie zmienia swój wygląd z każdym nowym celem, sprawiając, że tradycyjne łatki stają się przestarzałe.

Naukowcy celowo ukryli dokładną nazwę użytego modelu sztucznej inteligencji i ukryli poufne szczegóły w swojej publikacji. Przesłanie jest jednak jasne: jeśli naukowcy potrafią to zrobić, dobrze zorganizowani hakerzy mogą zrobić to samo, i to bardziej dyskretnie.

Oprogramowanie open source: puszka Pandory jest szeroko otwarta

W przeciwieństwie do gigantów takich jak OpenAI czy Anthropic, które ściśle trzymają swoje modele w ryzach, zespół z Toronto wykorzystał sztuczną inteligencję typu open source. Naturalnie budzi to obawy. Kod jest dostępny, co oznacza, że ​​każdy może go zmodyfikować i przekształcić w broń. Naukowcy ostrzegali, ale szkody już zostały wyrządzone.

Niektórzy twierdzą, że oprogramowanie open source pozwala również na tworzenie zautomatyzowanych mechanizmów obronnych. David Lie, inny profesor na tym uniwersytecie, sugeruje nawet masową dystrybucję „miękkich” wersji tego robaka, aby załatać luki w zabezpieczeniach, zanim zrobią to hakerzy. Tymczasem jednak firmy muszą przygotować się na nową erę proaktywnego cyberbezpieczeństwa: nie chodzi już o reakcję po ataku, ale o jego przewidywanie.

Rozpoczął się cyfrowy wyścig zbrojeń.

Firma Anthropic odmówiła komercjalizacji Claude Mythos, swojego najnowszego modelu sztucznej inteligencji, uznając go za zbyt podatny na ataki hakerskie. W ślad za nią poszła firma OpenAI, wprowadzając podobne ograniczenia w swoich technologiach. Pozostaje jednak pytanie: czy utrzymanie tych modeli w tajemnicy wystarczy, aby powstrzymać to zagrożenie? Nie jest to pewne, biorąc pod uwagę, że podobne modele open source już istnieją.

Panika rozprzestrzenia się w Dolinie Krzemowej. Firmy zdają sobie sprawę, że pasywne cyberbezpieczeństwo – oczekiwanie na aktualizacje i liczenie na lepsze – odchodzi w zapomnienie. Teraz potrzebują systemów zdolnych do obrony w czasie rzeczywistym, wyposażonych w własną sztuczną inteligencję. Problem w tym, że hakerzy również mają dostęp do tych narzędzi. Kto pierwszy strzeli?

W międzyczasie zamierzam odkopać moją starą sprzętową zaporę sieciową i częściej sprawdzać logi. Bo takie wieści sprawiają, że ma się ochotę odłączyć wszystko i wrócić do starych, dobrych czasów BBS-a. Ale jest już za późno: puszka Pandory jest otwarta.

Źródło: www.jeuxvideo.com