Post by James Baek

“공개된 사진”은 “AI가 재가공해도 된다는 동의”와 같지 않습니다. Meta가 새 이미지 생성 모델 Muse Image를 공개한 지 며칠 만에, 공개 인스타그램 계정의 콘텐츠를 참조해 AI 이미지를 만들 수 있던 기능을 중단했습니다. 기술적 성능이 부족해서가 아니라고 생각합니다. 문제는 사용자의 사진이 어떤 방식으로 활용되는지, 당사자가 명확하게 동의했는지, 그리고 이를 쉽게 통제할 수 있는지가 충분히 설계되지 않았다는 점이었습니다. 이번 사례에서 눈여겨볼 부분은 AI 이미지 기술 자체보다 ‘동의의 구조’입니다. 소셜미디어에 사진을 공개했다는 것은 사람들이 그 사진을 볼 수 있도록 허용했다는 의미입니다. 하지만 그것이 반드시 다음까지 허용한다는 뜻은 아닙니다. • 본인의 얼굴이나 스타일을 AI 생성물에 사용하는 것 • 제3자가 본인을 태그해 새로운 이미지를 만드는 것 • 원본과 다른 맥락으로 정체성을 재구성하는 것 • 별도의 명확한 동의 없이 기능에 기본 포함되는 것 AI 제품을 도입하거나 마케팅에 활용하는 기업도 같은 질문을 해야 합니다. 1. 이 데이터는 공개되어 있는가가 아니라, 이 용도로 사용할 권한이 있는가 2. 사용자는 명확하게 동의했는가 3. 기본 설정은 Opt-in인가, Opt-out인가 4. 언제든 사용을 거부하거나 철회할 수 있는가 5. 생성 결과물이 개인의 정체성이나 브랜드에 피해를 줄 가능성은 없는가 AI 시대의 제품 경쟁력은 모델 성능만으로 결정되지 않습니다. 기술적으로 가능한 기능이라도 동의, 통제, 책임 구조가 부족하면 출시 속도가 오히려 브랜드 리스크를 키울 수 있습니다. 특히 마케팅과 콘텐츠 제작에서는 더욱 그렇습니다. AI로 무엇을 만들 수 있는가보다 먼저 확인해야 할 것은, “이 자료를 이런 방식으로 사용해도 되는가?” 라는 질문입니다. 이번 사례는 AX가 단순한 기술 도입이 아니라 데이터와 권한, 책임 구조까지 함께 재설계하는 일이라는 점을 보여줍니다. #AITransformation #AIGovernance #DigitalMarketing #GenerativeAI