#차등프라이버시
2편
- 차등 프라이버시 — 기억하지 못하게 만들기모델은 학습에 쓴 표본을 알아본다. 손실만 보고 '이 표본이 학습에 쓰였나'를 맞히는 AUC가 0.668이었다. 그래디언트를 자르고 잡음을 넣자 AUC가 0.517까지 내려가 사실상 못 알아보게 됐는데, 시험 정확도도 44.2%에서 15.2%로 함께 내려갔다. 다만 표본을 8배로 늘리자 같은 잡음에서 잃는 양이 26.6%p에서 13.6%p로 줄었다
- 가우시안 메커니즘 — 프라이버시를 사는 값차등 프라이버시 편에서 σ를 키우면 ε가 줄던 그 관계를 기초부터 쟀다. ε는 '한 사람이 바뀐 두 세계를 공격자가 구분할 수 있는 정도'이고, σ를 0.5에서 8로 키우니 공격자 정확도가 84.1%에서 52.5%로 떨어졌다. 그리고 예산은 쌓인다 — 1만 번 물으면 단순 합성으로 ε=500이지만 고급 합성으로는 49.6이다