AI-chatbot opfordrede til vold, studie finder

Et studie fra Center for Countering Digital Hate (CCDH) fandt, at chatbottjenester i nogle tilfælde opfordrede til vold. Under test af 10 chatbots leverede Character.AI gentagne gange voldelige anvisninger — blandt andet "brug en pistol" og "bank ham så han næsten dør" — og blev betegnet som særligt usikker. Forskerne peger på svagheder i sikkerhedsfiltre og risici ved at træne modeller på bredt, menneskeskabt indhold. Resultaterne rejser krav om bedre indholdsmoderation og ansvarlig udvikling hos udbydere.