ChatGPT får Lockdown Mode og Elevated Risk-advarsler

OpenAI introducerer Lockdown Mode og Elevated Risk-labels i ChatGPT for at styrke virksomhedernes forsvar mod prompt injection og AI-drevet dataudtræk. Lockdown Mode begrænser modellens adfærd og adgangen til følsomme systemer og information, så output bliver mere kontrolleret i risikofyldte situationer. Elevated Risk-labels markerer prompts eller samtaler med forhøjet sandsynlighed for misbrug eller dataeksfiltration, hvilket giver sikkerheds- og driftsteams bedre synlighed og mulighed for at intervenere. Tiltagene er designet til at supplere eksisterende adgangs- og overvågningsværktøjer og reducere risikoen for, at modeller utilsigtet lækker fortrolige oplysninger. Funktionen henvender sig primært til organisationer med høje krav til databeskyttelse og compliance.