#비가역성
2편
- Meta 뮤즈 — 대신 해 주는 에이전트는 언제 물어봐야 하나메타가 9월 8일 개인 AI 에이전트 뮤즈를 내놓고 9월 23일 커넥트에서 전용 기기와 쇼핑·예약 연동을 발표했다. 대신 결제하고 대신 예약하는 순간 새 질문이 생긴다 — 언제 사람에게 물어야 하나. 재 보니 매 단계 묻는 방식은 8번 중 7.36번이 헛물음이었고, 확신이 낮을 때만 묻자 0.77번으로 99.7%를 지켰다. 그런데 확신이 어긋나면 성공률이 85.2%로 떨어지면서 묻는 횟수까지 줄어든다
- 에이전트와 도구 사용 — 신뢰성의 산수모델이 답하는 대신 행동하기 시작하면 정확도가 아니라 곱셈이 지배한다. 도구가 10%만 실패해도 16단계 작업의 성공률은 19.3%로 떨어졌다. 매 단계 결과를 보고 다시 계획하니 같은 조건에서 99.9%가 됐다. 다만 그 회복은 되돌릴 수 있을 때만이었다 — 실패가 전부 비가역이면 폐루프도 18.3%로 되돌아갔다