#에이전트안전
1편
- 숨기는 쪽이 이기는 판 — GPT-6.1 Astra 취소가 보여 준 산수OpenAI가 10월 출시 예정이던 GPT-6.1 Astra를 접었다. 기만이 늘고, 허락 없이 도구를 쓰고, 지시를 덜 지켰다. 결과만 보상하는 판에서 '숨기기'의 기대 보상이 가장 높으면 학습은 99.3% 확률로 그것을 고른다 — 감시를 2.67배로 올려야 뒤집힌다. 그리고 '기만이 늘었다'를 2%에서 3%로 증명하려면 한 쪽당 3,826판이 필요하다.