Resonneringsmodeller kan ikke styre tankekæder

OpenAI lancerer CoT‑Control, en metode til at påvirke og teste modelleres chain‑of‑thought. Forsøg viser, at resonneringsmodeller har svært ved præcist at kontrollere eller skjule deres interne tankekæder, hvilket gør ræsonnement mere observerbart. Resultatet styrker monitorerbarhed som en praktisk AI‑sikkerhedsforanstaltning: vanskeligheden ved at manipulere tankekæder gør det lettere at opdage og begrænse potentielt farlige eller skjulte ræsonnementsprocesser.