Umelá inteligencia uľahčuje prácu útočníkom. V posledných mesiacoch sa ukazuje, že aj amatérski hackeri dokážu vďaka novým modelom rýchlejšie nachádzať a zneužívať bezpečnostné slabiny v softvéri. Riziko kybernetických útokov rastie a hrozba sa pre koncových užívateľov automatizuje.
To všetko platí. A zároveň platí ešte niečo.
Tie isté nástroje dnes vo veľkom nasadzujú aj bezpečnostní výskumníci a firmy, ktoré operačné systémy vyvíjajú. Keď spoločnosť Anthropic začiatkom tohto roka oznámila svoj model Claude Mythos, informovala tiež, že tento systém už stihol odhaliť zraniteľnosti s vysokou závažnosťou v každom veľkom operačnom systéme. V máji sa podobným spôsobom podarilo identifikovať chybu s názvom Copy Fail, ktorá zasiahla takmer každú distribúciu Linuxu. Namiesto čakania na to, kým dieru v kóde nájde a zneužije niekto iný, vývojári integrujú umelú inteligenciu do vlastného procesu. Systémy vďaka tomu dokážu identifikovať potenciálne problémy skôr.
Čo sa medzitým potichu zmenilo
Psychológia vnímania hrozieb funguje jednoducho. Úspešný hackerský útok, pri ktorom uniknú dáta miliónov ľudí, je udalosť s okamžitým dopadom. Softvérová chyba, ktorú v tichosti odhalí algoritmus a tím programátorov ju opraví predtým, než ju ktokoľvek stihne zneužiť, je neviditeľná. Média žijú z dramatických udalostí. Pomalé, systematické vylepšovanie bezpečnosti sa do večerných správ nedostane.
Microsoft na tieto zmeny reaguje úpravou svojho životného cyklu vývoja bezpečnosti. Cieľom je vyslovene počítať s technikami útokov, ktoré využívajú umelú inteligenciu. Firma vyvíja špecifické nástroje pre Windows a autonómne systémy, ktoré pomáhajú generovať a overovať opravy. Zákazníci vďaka tomu uvidia vo svojich zariadeniach vyšší objem bezpečnostných aktualizácií v každom vydaní.
Podobná panika, aká dnes vládne okolo zraniteľnosti softvéru, panovala ešte pred rokom okolo samotného hardvéru. Prevládala predstava, že vývoj umelej inteligencie narazí na trvalý nedostatok grafických procesorov. Jedna spoločnosť, Nvidia, ovládla trh do takej miery, že sa jej produkty zdali byť absolútnym a neprekonateľným úzkym hrdlom pre celý technologický sektor. Vybudovala platformu CUDA, ktorá sa stala štandardom pre výskum, a tempo vývoja jej čipov prekonalo očakávania.
Číslo, ktoré sa do správ nedostalo
Zlepšenie dostupnosti je dnes zreteľné a dá sa zmerať. Nedostatok grafických čipov sa začal zmierňovať. Cena za hodinu prenájmu procesora Nvidia H100 na voľnom trhu dosiahla svoj vrchol v máji, keď sa pohybovala na úrovni 3,20 dolára. Odvtedy stabilne klesá.
Hodnota akcií Nvidie sa od májového maxima znížila o pätnásť percent, hoci jej predpokladané príjmy naďalej rastú. V porovnaní s očakávanými ziskami je dnes táto spoločnosť lacnejšia ako priemer indexu S&P. Trh na hardvérový monopol zareagoval štandardným spôsobom. Spoločnosti ako Google, Amazon, Microsoft a OpenAI už uviedli do prevádzky vlastné procesory, aby znížili svoju závislosť od jedného dodávateľa.
Úzke hrdlo sa iba presunulo inam. Dátové centrá zistili, že kým problém s procesormi sa darí riešiť, podcenili potrebu pamäte.
Základný dôvod je prostý. Dátové centrá dnes potrebujú všetku pamäť, ktorú si za peniaze môžu kúpiť. Kým grafické procesory pútali pozornosť svojou extrémnou zložitosťou, výrobcovia pamätí ako Micron mali oveľa prozaickejšiu úlohu. Ich čipy DRAM slúžia na to, aby presúvali dáta do procesorov a von z nich v čo najkratšom čase. Celý priemysel jednoducho podcenil, koľko tejto pamäte bude pre budovanie infraštruktúry potrebovať. Spoločnosť Micron vďaka tomu takmer strojnásobila svoju hodnotu a cena pamäťových súčiastok na voľnom trhu stúpla za posledný rok desaťnásobne. Ide o technológiu, ktorá sa pomaly a nenápadne zlepšovala dvadsať rokov, bez toho, aby pútala pozornosť širokej verejnosti.
Svet sa nekončí. Končí sa len predstava, že jedna technológia dokáže natrvalo zastaviť trhovú adaptáciu.
Obrana proti automatizovaným hrozbám nevyžaduje zázračné riešenia. Bezpečnostné opravy, ktoré dnes softvérové firmy pripravujú pomocou nových modelov, sa nenasadzujú úplne samy. Technologické giganty si pri prezeraní kódu naďalej ponechávajú v slučke ľudských inžinierov. Softvér chybu nájde a navrhne riešenie, človek robí konečné rozhodnutie o riziku. Pre správcu firemnej siete alebo majiteľa bežného počítača z toho vyplýva jedna praktická vec. Tou vecou nie je panika z algoritmov. Je ňou obyčajná inštalácia tých častejších bezpečnostných aktualizácií, hneď ako sa objavia v systéme.
