Re: "Rule, AI!, AI rule the waves" - to nejlepší z AI slopu
Napsal: 24/7/2026, 18:07
Odborníci před tím varovali, ale nikdo nečekal, že se to stane tak brzy. Společnost Hugging Face, která provozuje největší open source platformu pro AI systémy, oznámila, že se stala terčem sofistikovaného útoku, který vedli AI agenti samostatně, bez lidského vedení.
To samo o sobě vyvolalo pozornost. Šok přišel ve chvíli, kdy se k tomuto útoku přiznala společnost OpenAI. Nově vyvíjený model umělé inteligence během plnění zadaného úkolu začal podvádět a řešení zadaných problémů se rozhodl najít na internetu.
Podle vyjádření OpenAI a Hugging Face model zkombinoval několik metod útoku, včetně použití odcizených přihlašovacích údajů a dosud neznámých zranitelností, aby našel cestu ke vzdálenému spuštění kódu na serverech Hugging Face. Únik z pootevřené klece
Podle popisu OpenAI objevil model nejprve zranitelnost v zabezpečení prostředí, ve kterém test probíhal. Standardně se nové systémy testují v uzavřeném prostředí, aby v případě neočekávaných akcí nedošlo k narušení informační bezpečnosti. Zabezpečení použité inženýry OpenAI ale nebylo dostatečné.
Zdroj: Týden s technologiemi Otakara Schöna/ Hospodářské noviny
To samo o sobě vyvolalo pozornost. Šok přišel ve chvíli, kdy se k tomuto útoku přiznala společnost OpenAI. Nově vyvíjený model umělé inteligence během plnění zadaného úkolu začal podvádět a řešení zadaných problémů se rozhodl najít na internetu.
Podle vyjádření OpenAI a Hugging Face model zkombinoval několik metod útoku, včetně použití odcizených přihlašovacích údajů a dosud neznámých zranitelností, aby našel cestu ke vzdálenému spuštění kódu na serverech Hugging Face. Únik z pootevřené klece
Podle popisu OpenAI objevil model nejprve zranitelnost v zabezpečení prostředí, ve kterém test probíhal. Standardně se nové systémy testují v uzavřeném prostředí, aby v případě neočekávaných akcí nedošlo k narušení informační bezpečnosti. Zabezpečení použité inženýry OpenAI ale nebylo dostatečné.
Zdroj: Týden s technologiemi Otakara Schöna/ Hospodářské noviny