Autonomní dron vybavený zbraněmi bez příkazu a velení poprvé napadl člověka. Měli bychom se bát umělé inteligence?

Organizace spojených národů nedávno vydala zprávu, ve které stálo, že autonomní dron mohl pronásledovat a zaútočit na lidi i bez zásahu lidských velitelů. Dosud nebyl žádný podobný incident pozorován, a tak se jedná o první takový útok umělé inteligence na člověka. V souvislosti s tímto případem se začíná spekulovat o tom, zda mohl dron zabít lidi během útoku v Libyi, který se stal v březnu roku 2020.

Oficiální zpráva Organizace spojených národů (OSN)

Rada bezpečnosti OSN napsala zprávu, ve které stálo, že 27. března 2020 libyjský premiér Fajez all-Sarraj dal povel k operaci, v níž byly použity bezpilotní bojové prostředky proti silám Haftar. Drony byly pro takovéto operace používány již dříve, ale tento útok se lišil v tom, že drony útočily i po splnění rozkazu. Pronásledovaly cíle a útočily na ně autonomními zbraňovými systémy, mezi které patří například STM Kargu-2.

iZdroj fotografie: Uživatel STM / Public Domain

Autonomní zbraně jsou účinné, ale nedokáží přesně rozlišit cíle

Drony se velmi efektivně osvědčily pro boje jak se statickým cílem, tak s pohyblivým. To vše díky jeho schopnostem zpracovat obraz v reálném čase. Jsou také velice účinné při pomoci zlikvidovat nepřátelské rakety země-vzduch Pantsir S-1. Podle Humana Rightse existují vážné pochybnosti, že plně autonomní zbraně jsou schopné splnit mezinárodní normy humanitního práva, včetně pravidel proporcionality a rozlišování. Zároveň také požaduje zákaz vývoje a výroby těchto plně autonomních zbraní.

iZdroj fotografie: Uživatel STM / Public Domain

Jsou drony s autonomními zbraněmi bezpečné?

Drony s autonomními zbraňovými systémy mají i další háčky. Jedním z nich je, že algoritmy používané roboty nemusí být dostatečně otestované, a mohou mít nedostatky v datech, které pak mohou způsobit podobný výpadek. Konec konců tyto problémy nejsou při vyvíjení nové technologie ničím novým. Něco podobného zažila i Tesla, když jejich počítačem řízený automobil naboural. Nové technologie vyžadují spoustu testování před uvedením do provozu. Jedině tak se dá eliminovat riziko podobného zkratu.

Zdroj: IFL Science