[파스텔뉴스레터] 선거 기간, 딥페이크 이미지 단속한다!

2024. 3. 18.

웹에서 보기

2024 / 03 / 18 🎨 vol.26

딥페이크 논란,

선거기간 가짜뉴스 주의!

'AI 딱지' 붙이는 SNS

메타가 페이스북과 인스타그램, 스레드 등

운영 중인 모든 소셜미디어의

인공지능(AI) 생성 이미지에

표식(label)을 붙이기로 했습니다.

미국 대선 등

세계 곳곳의 주요 선거를 앞두고

딥페이크나 가짜 뉴스에

휘말리지 않기 위한 조치로 보여집니다.

사실 원래 메타는 자체 AI도구

'메타AI'를 사용해 만든 이미지에

'Imagined with AI'라는 라벨을

붙여왔습니다.

이 방식을 확대하여

구글, 오픈 AI, 어도비 등

외부의 이미지 생성 도구로 만든

AI 이미지에도 적용한다는 것이죠!

다른 회사와 협력해 공통 표준 개발도

노력중이라고 밝혔습니다

최근 관심이 높아지는

AI영상 기술의 경우도

사진에 비해 더 복잡하지만

관련하여 기술 개발이

이루어지고 있다고 덧붙이며

딥페이크 논란을 신경쓰고 있음을

알 수 있었습니다

글로벌 숏폼 플랫폼 '틱톡'도

크리에이터가 진짜처럼 보이도록 만든

생성형 AI 콘텐츠에 라벨을 붙이도록

제재하고 있는데요

성착취, 희롱 및 괴롭힘 등

위반 사항이 있는 AI 콘텐츠에 대해서는

라벨을 붙이더라도

규정 위반으로 간주합니다

이러한 AI 워터마크에 대한 규정이

까다로워진 배경에는

많은 사회적 이슈들이 있었습니다

세계적인 팝스타 테일러스위프트의

얼굴을 합성한 음란물 이미지가

쇼셜미디어에 퍼지면서

최근 우려의 다시 목소리가 커졌는데요

최근 메타CEO 마크저커버크도

AI로 생성한 아동 학대 이미지가

소셜미디어에 게시되며

청문회에 참석하였습니다

미국 국회가 불법 게시물에 대한

플랫폼 기업의 책임을 묻는

입법안 추진 과정에서

이루어진 자리에서 의미가 컸습니다

이 자리에서 기업들은

콘텐츠를 걸러내기 위해

얼마나 많은 사람들을 고용했는지도

공개했는데요

메타와 틱톡은 각각 4만명,

스냅은 2300명, X는 2000명으로

밝혔습니다

세계 최대의 SNS 기업인 메타에

미국 대선을 앞두고 당국으로부터

더 강력한 AI 생성 콘텐츠 정책을 만들라는

압박을 받아온 것으로 전해졌습니다

국내도 남일이 아닌 문제

카카오의 AI 이미지 생성 모델 '칼로'에

비가시성 워터마크 기술이 도입되었습니다.

인물을 기반으로 한 AI 생성물에 대한

공유가 더 활발히 이뤄지는 만큼

카카오톡 채널 '칼로 AI 프로필' 기능에

비가시성 워터마크를

먼저 도입했다고 합니다

비가시성 워터마크란

일반 유저들의 눈에는 보이지 않는

워터마크를 적용하는 기술로

가시적인 이미지 훼손 없이

생성된 이미지의 정보를 담을 수 있습니다

사용자가 이미지를 일부 편집하더라도

비가시성 워터마크가 제거되거나

훼손되진 않습니다

이런 가운데 가장 우려가 큰 부분은

청소년들이 딥페이크를 활용한 성범죄에

무방비로 노출되고 있다는 점입니다

누디피아, 언드레스, 딥누드 등의 이름으로

이른바 '옷 제거' 딥페이크 앱이

국내에서 기승을 부리고 있다고 합니다

네이버·카카오·SK컴즈 등 포털 3사가

키소(KISO 한국인터넷자율정책기구)와

공동으로 구축·관리하는

청소년 보호 검색어 데이터베이스(DB)에는

5만 여개의 청소년 보호 검색어가 있는데요

이에 딥페이크 관련 검색어도

포함시켜 관리한다고 합니다

청소년 보호 검색어로 지정되면,

해당 검색어 검색 결과 노출이 제한되고

일반 이용자는 연령 확인 절차를 통해

검색 결과를 확인할 수 있습니다

하지만 이러한 규제를 늘려도

아직 딥페이크 관련 법이 미비하기 때문에

법제화할 필요가 있다는 의견이 큽니다

앞으로 늘어날 AI 콘텐츠 제작에

사회적 논란을 피할 수 있는

제작 가이드라인이 필요해 보입니다!

시간 절약하는

무료 아이콘 모음

행동 유도 아이콘을 통해

간단하고 쉽게 목적을 나타내곤 합니다

함축적으로 내용을 담아야 하기에

굉장히 중요한 작업이라고 할 수 있는데요

시간을 절약해줄 수 있는

무료 아이콘 사이트를 소개합니다!

The Noun

• 5백만가지의 아이콘 활용 가능
• 배경 컬러 지정 및 아이콘 위치 변경 가능
• 식물, 미래 과학 등

다양한 주제의 픽토그램 활용 가능

https://thenounproject.com/

Flaticon

• 9백만개의 고퀄리티 벡터 아이콘을

무료로 활용 가능
• 전문기술 필요없이

가장 직관적이며 쉬운 UI 디자인
• 무료 패턴 생성도 가능

www.flaticon.com

Feather

• 가장 단순한 사용법
• 선 두께 및 아이콘 크기 수정 가능
• 280여개의 아이콘 한꺼번에 다운 가능

www.feathericons.com

iconsax

• 1,000가지 아이콘별 6가지 스타일로

총 6천개 제공
• 피그마, Ai, XD, SVG 등

디자인 활용에 최적화된 다양한 포멧 제공

www.iconsax.io

REMIX ICON

• 가장 심플한 라인 디자인
• CSS/ HTML 코드 제공으로

웹디자인에 활용도 높음
• 흑백 컬러의 아이콘 활용 가능

www.remixicon.com

Majesticons

• 720여종 아이콘 무료 다운 가능
• 피그마 사용시 직접 활용 가능
• 디자이너와 개발자를 위해 개발된 사이트

www.majesticons.com

Icon Monster

• 흑백 아이콘 활용 가능
• 가장 단순하고 기초적인 아이콘 모음

www.iconmonstr.com

📩뉴스레터 26호📩

어떠셨나요?!😊

더 좋은 콘텐츠를 위해

노력하겠습니다!

재밌는 콘텐츠를 위한

만족도 조사는 매우 큰 힘이 돼요!

👇🏻👇🏻

뉴스레터 어떠셨나요? 😀

파스텔 뉴스레터 구독하기

파스텔미디어
pst0417@pastelmedia.co.kr
전라북도 전주시 덕진구 만성북로 21-26 506,507 063)273-2398
수신거부 Unsubscribe

파스텔 뉴스레터를 구독하고 이메일로 받아보세요

🎈콘텐츠 미디어 트렌드, 재미있는 이야기들

이전 뉴스레터

[파스텔뉴스레터] MZ가 이끄는 스포츠전성시대!

2024. 3. 11.

다음 뉴스레터

[파스텔뉴스레터] 오징어게임, 205억 VS 1조

2024. 3. 25.

파스텔 뉴스레터

🎈콘텐츠 미디어 트렌드, 재미있는 이야기들