Forsvarsfirma udvikler AI-agenter, der sprænger mål

Scout AI har taget metoder fra den kommercielle AI-industri og anvendt dem i autonome agenter knyttet til våbensystemer. Ifølge en nylig demonstration viste virksomheden, hvordan teknologien kan styre og aktivere eksplosive enheder, hvilket understreger risikoen ved militarisering af moderne AI. Demonstrationen har vakt bekymring blandt eksperter og politikere om gennemsigtighed, ansvarlighed og mangel på regulering. Kritikere advarer om potentielle utilsigtede konsekvenser, teknologisk eskalation og svækkelse af eksisterende kontrolmekanismer. Sagen fremhæver et presserende behov for klare etiske rammer, eksportkontrol og tekniske sikkerhedsforanstaltninger for at begrænse risici ved overførsel af kommerciel AI til dødelige systemer.