Úvod > Články > Google hlásí útoky na AI Gemini, útočníci chtějí okopírovat jeho chování

Google hlásí útoky na AI Gemini, útočníci chtějí okopírovat jeho chování

Google se stal cílem útoků, při kterých útočníci opakovanými dotazy zkoušejí okopírovat chování chatbotu Gemini a využít ho pro vlastní modely. Firma varuje, že podobné útoky mohou mířit i na menší firemní AI nástroje.

Google oznámil, že jeho vlajkový chatbot Gemini čelí útokům, v nichž komerčně motivovaní aktéři opakovaně zadávají tisíce dotazů. V jednom z popsaných případů dostal Gemini přes 100 000 dotazů v rámci jednoho chatu. Část útoků cílila na algoritmy, které Gemini pomáhají „uvažovat“, tedy rozhodovat o tom, jak zpracuje informace

Tyto incidenty Google jsou známé jako destilace, tedy opakované dotazování, které má model přimět, aby odhalil svoje vnitřní fungování. Firma mluví také o možné extrakci modelu, kdy se útočníci snaží z odpovědí postupně odvodit vzorce a logiku, jež dělají z modelu to, čím je, a chtějí je využít pro stavbu nebo posílení vlastního AI systému.

Podle Googlu akce směřuje hlavně od soukromých firem nebo výzkumníků, kteří hledají konkurenční výhodu. Uživatelé podle mluvčího přicházejí z různých částí světa. Firma očekává, že podobné útoky se budou opakovat stále častěji. Ulozorňuje přitom, že destilace je krádež duševního vlastnictví.

Technologické společnosti v posledních letech utratily miliardy dolarů za vývoj chatbotů a velkých jazykových modelů a vnitřní fungování špičkových modelů berou jako vysoce cenné know how. I když se snaží útoky odhalovat a blokovat, jejich modely jsou vůči destilaci z principu zranitelné, protože jsou dostupné komukoli na internetu.

Podobné nebezpečí se ale týká i menších firem, které si staví vlastní LLM na citlivých datech. „Řekněme, že váš LLM byl natrénován na 100 letech tajného know-how o tom, jak obchodujete. Teoreticky byste z toho mohli něco vydestilovat,“ uvedl John Hultquist, hlavní analytik Googlu pro hrozby. Podle něj tak mohou být ohroženy i vlastní modely s interními daty.