https://www.apple.com/child-safety/pdf/CSAM_Detection_Technical_Summary.pdf

 온디바이스는 위 그림과 같습니다

이미지-> 뉴럴해시 모델로 해싱값 계산

해당 뉴럴해시 값으로 블라인드 해시테이블 접근 (온디바이스) -> 블라인드 해시값 도출

 서버로 가는 패킷은 최종적으로

1. 이미지 분류 위한 뉴럴해시로 만들어진 헤더

2. 계산된 블라인드 해시값으로 암호화된 데이터

 서버에 도달하면 1차 검증

서버단 PSI

받은 패킷 헤더 값으로 일치하는지 체크 -> 일치하면 해독 가능

2차검증: secret sharing

이건 이해를 잘 못한거 같습니다

애플측에서 탐지하려는 이미지 값을 직접 암호화 한후 쪼갠 후 예시로 1000개로 쪼갰다 하면

받은 유저 이미지를 해독 하지 않은 상태에서 유저 이미지에 매칭되는 조각이 10개 이상이면 탐지라고 판단인거 같습니다

이미지를 조각조각 보므로 탐지가 1,2차 되기 전까지는 해당 이미지를 실질적으로 보지 못한다고 주장합니다

읽어보니 확률이 엄청 낮도록 이중 처리를 해둔거는 확실해 보이는데 일반적으로 공격당하지 않는경우에는 이중 체크까지 다 통과할 확률이 낮다고는 봅니다

그런데 어떤분이 댓글 단거처럼 본인 아이 씻기는 사진이라던지 그런걸 어떻게 할지는 모르겠네요 물론 괜히 문제 될까봐 기능을 키진 않겠습니다만 

결론은 뉴럴해시 모델 자체가 온디바이스에 존재하는한 연구 실험은 가능할것 같으니 긍정적이진 않습니다