로그인 해주세요.

미니기기 / 음향 게시판 *스마트폰과 PC, 카메라, 스피커 등 IT 미니기기와 음향기기에 관해 교류하는 게시판입니다.

미니 애플 csam 반대입니다

  • idsr
  • 조회 수 697
  • 2021.08.06. 11:26

https://mobile.twitter.com/matthew_d_green/status/1423071186616000513

 

 이해하기로는 로컬내에서 사진 해싱한 값을 미 정부?차원에서 지정한 유해 이미지 해시값과 유사도 비교로 1차 필터링 후 유사도가 높은 경우 이미지를 서버로 전송하는것 같습니다

 

 로컬에서 사진 내용을 검사하는것은 아니니 해싱으로 탐지하는 방식 자체는 그럴수 있다고 생각합니다

 

 당연히 탐지 모델 성능이 확보 되었으니 오탐지율이 보장 된다는 가정하에 서비스를 할거같긴 합니다

(시리가 답이없지 애플 논문들 읽어보면 FAANG ai팀은 맞습니다)

 

이제 탐지 방식 자체가 있는거는 그렇다 치고 이걸 서버로 보낸다 하면서 두가지가 걸리는데

 

첫번재는 오탐지가 없을수는 없고 사진이 애플 서버로 전송이 된다는 거입니다

현재 완벽한 모델은 사실상 없으니 오탐지가 될거고 사용자 동의 없이 무슨 사진인줄 알고 전송한다는건지 모르겠습니다.

잘못 가져갔다고 사용자에게 알린다는 거도 없는거 같습니다

 

A558CC32-E6ED-4444-BE69-C4C2C02588D7.jpeg

 

두번째는 공격 당하는 경우입니다

ml 보안중 적대적 공격이 있는데 모델을 속이도록 데이터를 학습해 나간다고 볼 수 있습니다

위같이 티나지 않는 노이즈를 추가해서 공격 할 수 있는데 이런 이미지를 내가 받게 되면 탐지가 될것인데 이거를 사용자 의도가 없었다고 어떻게 판단할지도 애매할거같습니다.

서버 내에서 2차 탐지가 있기는 하고 이미지 확인을 하겠지만 시각적으로 확인한다면 이거를 보는거도 문제고 자동화 해서 탐지 해버리면 그거도 문제라 생각합니다

 

보안하시는 분들이 이거를 연구 안할리가 없는데 악용될 여지가 충분히 있어서 반대입니다

 

개인적으로는 이미 수사를 받고 있는 대상에 대해서만 적용하는게 맞지 않나 싶습니다

 

+추가

직접 참가를 해야지 되는거니 일단은 보겠지만 자동 참가로 바뀌는 경우 문제가 될거같습니다

 

+추가 2

 https://www.apple.com/child-safety/pdf/CSAM_Detection_Technical_Summary.pdf

디테일 공개하긴 했으니 읽어 봐야겠습니다

 

DBE843AE-7FE3-461A-AD1B-56FDD3B5B60F.jpeg

 서버상에 전송되는 이미지는 다 암호화가 되어있고

모델로 나온 해시값인 Neuralhash값과 매칭되는 blind hash값들이 on device로 따로 있습니다

애플측 말로는 문제있는 사진의 blind hash만 애플이 가지고 있으므로 문제있는 사진만 암호화 키를 가지고 해독 할 수 있다고 합니다

 

https://meeco.kr/mini/32950002

 

오탐지 이미지의 blind hash값이 문제 이미지랑 일치하는 경우에 위 문제가 있겠네요

해시 특성상 그럴 가능성이 아예 없다고는 할수 없지만 엄청 낮을듯 하긴 합니다

그래도 일단 이걸 굳이 애플이 서비스로 제공할 이유가 뭔지는 모르겠습니다. 일반 사람들이 이런 이미지 받는 거를 막아 준다는 건데 그냥 잘못 탐지 했구나 하고 봐버릴 사람들이 많을듯 하기도 하고 악용할 사람들이 참가할 서비스는 더더욱 아니니깐요. 

댓글
4
1등 soje22
2021.08.06. 11:32

독수독과에 해당하지 않으려나요..

[soje22]님의 댓글을 신고합니다. 취소 신고
포인트봇
포인트봇 soje22 님께
2021.08.06. 11:32
회원님 4포인트 채굴 성공!
[포인트봇]님의 댓글을 신고합니다. 취소 신고
글쓴이
idsr soje22 님께
2021.08.06. 12:14

불법은 아니니 해당되지 않을거같긴 합니다..? 법쪽으로는 어찌되는지 모르겠네요. 다른 클라우드 서비스도 유사하게 탐지를 한다하니 미국은 가능한가봅니다

[idsr]님의 댓글을 신고합니다. 취소 신고
2등 고급회계
2021.08.06. 23:28

동양인들이 서양인들에 비해 젊어보이는 수준을 넘어 어려보이는데 완벽하게 적용이 될까요? 실제로 박보영 유튜브나 주호민 짤 사건도 있고요

 

문제되는 사진이 아닌데도 의심되는 내 사진이 볼 수 있게 전달되는 것도 좀 그렇습니다

 

** 찾아보니 원래 있던 유포물과 대조하는 방식이네요. 음... 그럼 오탐지 확률은 매우 적겠지만 검열이 이렇게 시작되기도 해서 그 쪽으로 걱정은 되네요

[고급회계]님의 댓글을 신고합니다. 취소 신고
취소
번호 분류 제목 글쓴이 날짜 조회 수
공지 공지 사이트 이용 수칙 230228 수정 file admin 18.08.04 116572 13
핫글 미니 아주 수상한 휴대폰... [17] updatefile Alternative 19:37 856 12
핫글 미니 사실 갤럭시 칩셋 이원화는 [7] 걔는춘자 19:41 725 12
핫글 미니 8G4가 소비전력이 우려스럽네 어쩌니해도 [6] 흡혈귀왕 11:36 1232 11
209621 미니 등산 (feat. Gcam) (스압 주의) [7] file 씨샾 23.10.28 375 15
209620 미니 사실 본 출처 이야기도 적당히 걸러 들어야합니다. [14] 흡혈귀왕 23.10.03 1572 15
209619 미니 엑시2200 소개 페이지에 전작 대비 몇프로 상승 이야기가 없는 시점에서 [4] 흡혈귀왕 22.01.24 1060 15
209618 미니 삼성노트 9/7일자 멤버스 피드백 정리했습니다. [10] 세브 20.09.07 891 15
209617 미니 아이폰13프맥 RAW로 별 찍어봤습니닷 [12] file 괴짜 21.10.17 798 15
209616 미니 트위터 본사 근황 [3] file Stellist 23.01.03 1730 15
209615 미니 오랜만에 S10 5G 사진(랜선여행:스압,데이터주의) [25] file Bloger 20.07.30 588 15
209614 미니 소 잃고 뇌 약간 고치기 [16] file Terrapin 21.11.09 1289 15
209613 미니 제일 걱정하던 부분에서 만족입니다 [16] file 김애용 24.01.24 1034 15
209612 미니 S24U 티타늄 블루 색상 진짜 아쉽네요. [18] file BarryWhite 24.01.19 1673 15
209611 미니 받고보니까 이번에 삼성은 구성품을 뺐던게 아니였습니다🥲 [15] file 류아린 21.02.04 1079 15
209610 미니 LG 스마트폰이 살아남을 수 있는 새로운 라인업 - LG 온스 [14] file Stellist 21.02.16 1152 15
209609 미니 언팩 보실 분들은 누르지 마세요 [31] file Thomasp5675 21.01.14 1817 15
209608 미니 폴드3.. 샀읍니다... [4] file 최단장 21.08.31 1083 15
209607 미니 내부에서는 그렇다고 합니다 [8] file 비둘기야먹자 22.03.03 1845 15
209606 미니 픽셀 4를 쓰면서 안드는 진짜 갤럭시가 멱살 잡고 끌고 가고 있구나 느꼈습니다. [16] 섹시킹 23.04.12 1499 15
209605 미니 애플이 에픽 개발자 계정을 또 정지시켰다네요 😨 [5] MrGom™ 24.03.07 1164 15
209604 미니 브랜드 바꾼다고 성공하는게 아닌건 아주 가까운 사례가 있었잖아요. [10] file Stellist 24.01.14 1037 15
209603 미니 긱벤치 퇴출이라는 소식을 들었습니다 [8] file 모카멜 22.03.05 1317 15
209602 미니 밝은 야외에서 본 s24플러스 마블그레이 [6] file 빅코 24.01.25 1062 15
209601 미니 이게 되네.. [10] file 수크 20.09.09 1220 15
209600 미니 EMV 컨텍리스 결제랑 애플페이 결제랑 다른 점 [10] 로봇치킨 22.12.23 1001 15
209599 미니 Real Fold6 and Fold5 comparison [14] file iceuniverse 24.05.30 1341 15
209598 미니 S21, S22통수 맞고 아이폰으로 정착하신 분들 많으신가요? [22] 멜로엘로 23.11.08 1920 15
209597 미니 주문제작한 애플워치 시계줄이 왔습니다. [15] file Stellist 22.03.12 773 15

추천 IT 소식 [1/]

스킨 기본정보

colorize02 board
2017-03-02
colorize02 게시판

사용자 정의

1. 게시판 기본 설정

게시판 타이틀 하단에 출력 됩니다.

일반 게시판, 리스트 게시판, 갤러리 게시판에만 해당

2. 글 목록

기본 게시판, 일반 게시판, 썸네일 게시판만 해당

썸네일 게시판만 해당

썸네일 게시판만 해당

썸네일 게시판만 해당

썸네일 게시판만 해당

3. 갤러리 설정

4. 글 읽기 화면

기본 10명 (11명 일 경우, XXXXX 외 1명으로 표시)

5. 댓글 설정

일정 수 이상의 추천을 받은 댓글에 표시를 합니다.

6. 글 쓰기 화면 설정

글 쓰기 폼에 미리 입력해 놓을 문구를 설정합니다.

서버에 요청 중입니다. 잠시만 기다려 주십시오...