포토DNA

PhotoDNA

PhotoDNA는 온라인 서비스 제공업체에서 널리 사용하는 독점적인 이미지 식별 및 콘텐츠 필터링 기술입니다[1].[2][3]

역사

포토DNA는 2009년부터 마이크로소프트 리서치와 다트머스 대학교의 하니 패리드 교수에 의해 개발되었습니다.알려진 이미지 및 비디오 파일의 데이터베이스에서 각 이미지를 나타내는 고유 해시를 생성하고, 이 해시를 사용하여 해당 이미지의 다른 인스턴스를 식별할 수 있습니다.[4]

해싱 방법은 처음에는 이미지를 흑백 형식으로 변환하여 사각형으로 분할하고 사각형의 음영을 정량화하는 것에 의존하였으며,[5] 얼굴 인식 기술을 사용하지 않았으며, 이미지에서 사람이나 물체를 식별할 수도 없었습니다.[citation needed]이 방법은 크기 조정 및 약간의 색상 변경을 포함하여 이미지의 변경에 저항력을 갖으려고 했습니다.[4]2015년부터 비디오 파일의 개별 비디오 프레임에 대해서도 유사한 방법이 사용되고 있습니다.[6][7]

Microsoft는 개별 사진을 고유하게 식별하는 데 사용할 수 있는 "지문"을 저장하여 디지털 포렌식 작업의[8][9] 일환으로 사용하고, ICMEC(International Centre for Missing & Propertise Children)[9][10]에서 관리 및 지원하는 Project VIC에 PhotoDNA 기술을 기증했습니다[failed verification].데이터베이스에는 수백만 개 항목에 대한 해시가 포함됩니다.[11]

2014년 12월, 마이크로소프트는 포토DNA를 Azure Marketplace를 통해 소프트웨어 서비스 모델로 자격을 갖춘 조직에서 무료로 사용할 수 있도록 했습니다.[12]

2010년대와 2020년대에는 미국 상원 청문회([13]2019년 '디지털 책임',[2] 2022년 'Earn IT Act[14]'), 소위 자발적 공동체 등 시민사회의[15][16] '업로드 필터'라는 EU 집행위원회의 다양한 제안 등 콘텐츠 조정 및 인터넷 검열과 관련된 정책 제안과 관련하여 PhotoDNA를 제시하였습니다.des (2015년 사건 이후 2016년[17] 혐오 발언[18], 2018년[19] 및 2022년[20] 허위 정보에 대한), 저작권법 (주로 2014년과[21] 2021년[22] 사이에 논의된 2019년 저작권 지침), 테러 관련 규정 (TERREG)[23] 및 인터넷 감청 규정 (2021년 "채팅 제어").[24]

2016년 하니 패리드(Hany Farid)는 이 기술의 사용을 테러 관련 콘텐츠로 확대할 것을 제안했습니다.[25]2016년 12월, 페이스북, 트위터, 구글, 마이크로소프트는 포토DNA를 사용하여 테러리스트 모집 동영상이나 폭력적인 테러 이미지와 같은 극단주의 콘텐츠를 제거할 계획을 발표했습니다.[26]2018년 페이스북은 포토DNA가 알카에다 동영상을 자동으로 제거하는 데 사용되었다고 밝혔습니다.[13]

2019년까지 마이크로소프트, 페이스북, 구글을 포함한 빅테크 기업들은 2017년부터 GIFCT를 자동 검열되는 콘텐츠의 공유 데이터베이스로 운영하고 있다고 발표했습니다.[2]2021년 현재 애플은 뉴럴해시를 유사한 목적으로 사용하는 것으로 여겨졌습니다.[27]

2022년, 뉴욕 타임즈는 의료 목적으로 아이를 찍은 사진이 자동으로 구글의 서버에 업로드 된 후 구글 계정이 폐쇄된 두 아빠의 이야기를 다뤘습니다.[28]이 기사는 알려진 해시의 데이터베이스가 필요한 포토DNA를 이전에는 볼 수 없었던 착취적인 이미지를 인식할 수 있는 구글의 AI 기반 기술과 비교합니다.

사용.

마이크로소프트는 원래 Bing과 OneDrive를 포함한 자체 서비스에서 PhotoDNA를 사용했습니다.[31]2022년 현재, PhotoDNA는 Google의 Gmail, Twitter,[34] Facebook,[35] Adobe Systems,[36] Reddit,[37] Disdiscord를 포함한 온라인 서비스 제공업체들에 의해 그들의 콘텐츠 조정 노력에[10][32][33] 널리 사용되었습니다.[38]

PhotoDNA 서명의 참고 데이터베이스를 수집해 온 영국 인터넷 워치 재단은 알려진 아동 성 착취 자료를 30만 개 이상 보유하고 있는 것으로 알려졌습니다.[citation needed]데이터베이스의 또 다른 출처는 국립 실종 및 착취 아동 센터(NCMEC)였습니다.[39][40]

PhotoDNA는 콘텐츠를 제거하고 [2]계정을 비활성화하며 사용자를 보고하는 데 널리 사용됩니다.[7]2021년 구글에서만 CSAM에 대한 600,000건의 보고가 접수되었고 270,000명 이상의 사용자의 계정을 비활성화한 것으로 보고되었습니다.[3]

참고 항목

참고문헌

  1. ^ Douze, Matthijs; Tolias, Giorgos; Pizzi, Ed; Papakipos, Zoë; Chanussot, Lowik; Radenovic, Filip; Jenicek, Tomas; Maximov, Maxim; Leal-Taixé, Laura; Elezi, Ismail; Chum, Ondřej; Ferrer, Cristian Canton (February 21, 2022). "The 2021 Image Similarity Dataset and Challenge". arXiv. arXiv:2106.09672. Image fingerprints, such as PhotoDNA from Microsoft, are used throughout the industry to identify images that depict child exploitation and abuse
  2. ^ a b c d "The Rise of Content Cartels". knightcolumbia.org. February 11, 2020. Retrieved August 21, 2022.
  3. ^ a b Hill, Kashmir (August 21, 2022). "A Dad Took Photos of His Naked Toddler for the Doctor. Google Flagged Him as a Criminal". The New York Times. ISSN 0362-4331. Retrieved August 21, 2022.
  4. ^ a b "New Technology Fights Child Porn by Tracking Its "PhotoDNA"". Microsoft Corporation. December 15, 2009. Retrieved September 9, 2016.
  5. ^ "Photo DNA: Step by step". Microsoft. Archived from the original on September 21, 2013. Retrieved February 11, 2014.
  6. ^ "How PhotoDNA for Video is being used to fight online child exploitation". September 12, 2018.
  7. ^ a b "How PhotoDNA for Video is being used to fight online child exploitation". news.microsoft.com. September 12, 2018.
  8. ^ Jackson, William (August 27, 2014). "Improved image analysis tools speed exploited children cases". GCN.
  9. ^ a b Clark, Liat (April 30, 2014). "Child abuse-tracking tech donated to the world". Wired UK.
  10. ^ a b "Microsoft's response to the consultation on the European Commission Communication on the Rights of the Child (2011–2014)" (PDF). Archived from the original (PDF) on October 24, 2017."Microsoft's response to the consultation on the European Commission Communication on the Rights of the Child (2011–2014)" (PDF). Archived from the original (PDF) on October 24, 2017.유럽 위원회
  11. ^ Ward, Mark (March 23, 2014). "Cloud-based archive tool to help catch child abusers". BBC News.
  12. ^ "PhotoDNA Cloud Service". Microsoft.com. Microsoft Corporation. Retrieved February 19, 2015.
  13. ^ a b Richard Allan (June 18, 2018). "Hearing at 11:14". 인에
  14. ^ Thu; Szoka, Feb 10th 2022 03:30pm-Berin; Cohn, Ari (February 10, 2022). "The Top Ten Mistakes Senators Made During Today's EARN IT Markup". Techdirt. Retrieved August 21, 2022.
  15. ^ Schmon, Christoph (June 3, 2021). "The EU Commission's Refusal to Let Go of Filters". Electronic Frontier Foundation. Retrieved August 21, 2022.
  16. ^ "Upload filters: a danger to free internet content?". IONOS Digitalguide. March 28, 2019. Retrieved August 21, 2022.
  17. ^ "Fighting illegal online hate speech: first assessment of the new code of conduct". ec.europa.eu. December 6, 2016. Retrieved August 21, 2022.
  18. ^ "The EU Code of conduct on countering illegal hate speech online European Commission". Ec.europa.eu. Retrieved August 29, 2022.
  19. ^ "Code of Practice on Disinformation Shaping Europe's digital future". September 26, 2018.
  20. ^ "The 2022 Code of Practice on Disinformation Shaping Europe's digital future". March 24, 2023.
  21. ^ "Procedure File: 2014/2256(INI) Legislative Observatory European Parliament".
  22. ^ 위원회로부터 유럽 의회 및 위원회에 전달된 디지털 단일 시장의 저작권에 관한 지침 2019/790 제17조에 대한 지침
  23. ^ "Terrorist content online".
  24. ^ Reuter, Markus; Rudl, Tomas; Rau, Franziska; Hildebr, Holly. "Why chat control is so dangerous". European Digital Rights (EDRi). Retrieved August 21, 2022.
  25. ^ Waddell, Kaveh (June 22, 2016). "A Tool to Delete Beheading Videos Before They Even Appear Online". The Atlantic. Retrieved September 10, 2016.
  26. ^ "Partnering to Help Curb Spread of Online Terrorist Content Facebook Newsroom". Retrieved December 6, 2016.
  27. ^ Abelson, Hal; Anderson, Ross; Bellovin, Steven M.; Benaloh, Josh; Blaze, Matt; Callas, Jon; Diffie, Whitfield; Landau, Susan; Neumann, Peter G.; Rivest, Ronald L.; Schiller, Jeffrey I.; Schneier, Bruce; Teague, Vanessa; Troncoso, Carmela (October 14, 2021). "Bugs in our Pockets: The Risks of Client-Side Scanning". arXiv:2110.07450 [cs.CR].
  28. ^ Hill, Kashmir (August 21, 2022). "A Dad Took Photos of His Naked Toddler for the Doctor. Google Flagged Him as a Criminal". The New York Times. ISSN 0362-4331. Retrieved August 21, 2022. A bigger breakthrough came along almost a decade later, in 2018, when Google developed an artificially intelligent tool that could recognize never-before-seen exploitative images of children. [...] When Mark's and Cassio's photos were automatically uploaded from their phones to Google's servers, this technology flagged them.
  29. ^ "Google Flagged Parents' Photos of Sick Children as Sexual Abuse". Gizmodo. August 22, 2022. Retrieved August 28, 2022. According to Google, those incident reports come from multiple sources, not limited to the automated PhotoDNA tool.
  30. ^ Roth, Emma (August 21, 2022). "Google AI flagged parents' accounts for potential abuse over nude photos of their sick kids". The Verge. Retrieved August 28, 2022. Google has used hash matching with Microsoft's PhotoDNA for scanning uploaded images to detect matches with known CSAM. [...] In 2018, Google announced the launch of its Content Safety API AI toolkit that can "proactively identify never-before-seen CSAM imagery so it can be reviewed and, if confirmed as CSAM, removed and reported as quickly as possible." It uses the tool for its own services and, along with a video-targeting CSAI Match hash matching solution developed by YouTube engineers, offers it for use by others as well.
  31. ^ "Unfortunate Truths about Child Pornography and the Internet [Feature]". December 7, 2012.
  32. ^ Eher, Reinhard; Craig, Leam A.; Miner, Michael H.; Pfäfflin, Friedemann (2011). International Perspectives on the Assessment and Treatment of Sexual Offenders: Theory, Practice and Research. John Wiley & Sons. p. 514. ISBN 978-1119996200.
  33. ^ Lattanzi-Licht, Marcia; Doka, Kenneth (2004). Living with Grief: Coping with Public Tragedy. Routledge. p. 317. ISBN 1135941513.
  34. ^ Arthur, Charles (July 22, 2013). "Twitter to introduce PhotoDNA system to block child abuse images". The Guardian. Retrieved July 22, 2013.
  35. ^ Smith, Catharine (May 2, 2011). "Facebook Adopts Microsoft PhotoDNA To Remove Child Pornography". Huffington Post. Retrieved July 22, 2013.
  36. ^ "Adobe & PhotoDNA". www.adobe.com. Retrieved August 27, 2021.
  37. ^ "Reddit use PhotoDNA to prevent child pornography". March 19, 2020.
  38. ^ "Discord Transparency Report: July — Dec 2020". Discord Blog. April 2, 2021. Retrieved May 8, 2022.
  39. ^ "Microsoft tip led police to arrest man over child abuse images". The Guardian. August 7, 2014.
  40. ^ Salcito, Anthony (December 17, 2009). "Microsoft donates PhotoDNA technology to make the Internet safer for kids". Retrieved July 22, 2013.

외부 링크