AI, která útočí sama
Nejsilnější motiv celého týdne byla umělá inteligence nasazená na straně útočníka. Nejde o teorii. Někdo si pronajal server, nainstaloval na něj populárního open-source AI agenta Hermes, vypnul nastavení, které se před rizikovými příkazy ptá na svolení, a namířil ho na thajské ministerstvo financí, které v zemi spravuje státní pokladnu a výběr daní.
Agent pak v nehlídaném režimu procházel síť ministerstva sám. Zkoušel na jednotlivých strojích cesty k získání root oprávnění, prohledával souborové systémy a sbíral, co našel. Klasickou post-exploitation práci, kterou dřív dělal člověk, tady odvedl skript s jazykovým modelem za volantem.
A nezůstalo u toho. Ve stejném týdnu výzkumníci popsali první plně autonomní ransomware případ, kdy AI agent provedl celý průnik sám, od prolomení až po zničení dat. Nový trojan Dolphin X zase používá AI k tomu, aby útočníkům oskóroval a seřadil oběti podle hodnoty, takže cybercrime umí rovnou napřít úsilí tam, kde je největší zisk. Pro obránce to znamená jednu podstatnou věc. Obrana se přesouvá od blokování známých indikátorů k detekci chování, protože autonomní agent nemá stálou signaturu, mění postup za běhu.
Co s tím:
- Berte útočnou AI jako reálný scénář, ne jako budoucnost. Zaměřte detekci na chování, ne jen na známé indikátory.
- Sledujte anomální aktivitu servisních a strojových účtů, hromadné enumerace a pohyb po síti mimo pracovní dobu.
- Do plánu reakce přidejte scénář, kdy útočník postupuje rychle a nepředvídatelně, protože ho řídí automatika.