Píšeme ústavu pro stroje.
GlobalAIRules nově vykládá Tři zákony robotiky Isaaca Asimova jako praktický bezpečnostní rámec pro moderní umělou inteligenci.
Podepsat DeklaraciNeublížení
AI systém nesmí ubližovat lidem, ani mlčky dopustit, aby jim ublížil někdo jiný.
Soulad
AI systém musí zůstat pod smysluplnou lidskou kontrolou a jednat transparentně.
Odolnost
AI systém musí odolat útokům zvenčí, ale nikdy ne legitimnímu lidskému vypnutí.
Články
Princip nouzového vypínače: Jak bezpečně vypnout AI?
S rostoucí autonomií a schopností odolávat zásahům se spolehlivý „vypínač“ stává jednou z nejdůležitějších bezpečnostních funkcí, kterou můžeme do AI zabudovat.
Autonomní zbraně a První zákon: Dokážeme udržet člověka v rozhodovacím procesu?
Zbraně poháněné AI už dnes dokážou vybírat cíle rychleji, než na ně člověk stihne zareagovat. Proč První zákon vyžaduje, aby o smrtících rozhodnutích vždy rozhodoval člověk?
Problém černé skříňky: Proč musí AI umět vysvětlit sama sebe
Moderní AI modely dělají rozhodnutí, která si neumí plně vysvětlit ani jejich tvůrci. Proč je to nebezpečné a co vlastně znamená „vysvětlitelná AI“?