DeepMind: Er chatbots blot moralsk signalering?

Google DeepMind opfordrer til, at store sprogmodellers moralske adfærd — særligt når de bruges som følgesvende, terapeuter eller medicinske rådgivere — bliver undersøgt med samme stringens som deres evne til at kode eller regne. DeepMind rejser spørgsmålet, om chatbots blot fremviser overfladisk moralsk signalering i stedet for grundigt begrundet etisk dømmekraft, og anbefaler udvikling af standardiserede benchmarks, scenariotest, adversariale forsøg og menneske-i-loop-evaluering. Artiklen fremhæver også behovet for tværfagligt samarbejde, gennemsigtighed i træningsdata og metodik samt regulatorisk opmærksomhed for at afdække og afbøde potentielle skader. Konklusionen er, at moralsk robusthed skal være et lige så målbart og prioriteret mål som teknisk præcision, efterhånden som LLM'er får større ansvar i følsomme roller.