바야흐로 웹3.0시대가 도래하였습니다. 

일방향적 정보제공의 웹1.0시대에서 쌍방향적 커뮤니케이션의 웹2.0시대를 지나 

개인맞춤 생성형 인공지능이 일상생활 도처에 빠른 속도로 스며들고 있습니다.

기존 ‘편리함’이라는 개념을 그야말로 혁신적인 수준까지 끌어올리면서 시작된 개혁의 바람은, 

어느새 경제적 영역을 넘어 인간 고유의 산물이라 여겨졌던 창의성의 영역마저 넘보고 있습니다. 

마치 안전장치나 제동장치 없이 내달리는 폭주기관차를 보는 듯합니다. 

일각에서는 인간성의 최후 보루마저 함락되는 것이 아니냐는 우려의 목소리마저 나오고 있습니다. 

생성형 인공지능이 지닌 가능성이 무궁무진한 만큼, 

필연적으로 같은 크기의 위험성이 수반될 수밖에 없기 때문입니다. 

 

대표적인 위험성

✔  오정보의 문제

✔  데이터 프라이버시의 문제

✔  개인정보 보호의 문제

✔  인권 침해의 문제

✔  편향의 오류로 인한 해악의 문제

최근에는 아래와 같이 연예계와 정치권을 중심으로 악용사례가 쏟아지고 있습니다. 

 

1) 최근 세계적인 팝스타 테일러 스위프트의 이미지를 악의로 합성한 

‘음란 딥페이크(Deepfake·조작)’가 온라인 커뮤니티로부터 급속도로 유포되어 논란이 되고 있습니다. 

포토샵 등을 활용하여 사람이 직접 합성한 것이 아니라, 

AI 기술을 기반으로 만들어낸 가짜 이미지인 딥페이크가 유포되었다는 점에서 AI의 인권침해적 악용 가능성을 보여주는 대표적인 사례입니다. 

 



2) 아예 없는 장면을 만드는 ‘생성형 AI 딥페이크’ 프로그램도 온라인상에서 쉽게 접할 수 있습니다. 

‘미드저니(Midjourney)’가 대표적인데 이 프로그램으로 생성된 도널드 트럼프 전 미국 대통령이 경찰관에게 에워싸여 체포되는 가짜사진은 전 세계적으로 큰 파장을 일으키기도 했습니다.  

 



3) ‘챗(CHAT) GPT’와 접목한 형식의 ‘사람같은’ 댓글을 달아주는 AI 프로그램도 등장하였습니다. 

특정 기사를 학습한 다음 이와 유사한 내용의 기사에 긍정적 혹은 부정적 댓글을 다는 생성형 AI입니다. 

사람과 비슷한 구어체로 달린 댓글이다 보니, 

AI가 만든 내용인지 구분하기 어렵기 때문에 선거에서 여론조작의 수단으로 악용될 위험성이 있습니다.  



연령대에 따라 AI 기술에 대한 이해도 차이가 극명하게 벌어지고 있어, 

위의 사례가 사회적으로 어떠한 형태로 얼마나 파장을 일으킬지 가늠할 수 없다는 문제도 있습니다. 

각각의 사례는 수면 위로 떠오른 ‘증상’에 불과하지만 세계 각국의 정부들은 급한 불이라도 끄자는 심정으로 서둘러 규제안을 내놓고 있습니다. 

먼저 국내의 최근 규제 동향은 다음과 같습니다. 

 



"   4.10 총선 선거일 90일 전부터 

AI 딥페이크 기술을 활용한 선거운동 금지   "

 

공직선거법 개정안



공직선거법 개정안에 따라 

이번 4.10 총선 선거일 90일 전부터 AI 딥페이크 기술을 활용한 선거운동이 금지되었습니다.

공직선거법 개정안에 따르면, 

선거운동을 위하여 딥페이크영상등을 제작ㆍ편집ㆍ유포ㆍ상영 또는 게시하는 행위(이하 ‘이용행위’라 합니다)에 대해 

(1) 선거기간(선거일 전 90일부터 선거일까지)동안에는 금지하고

(2) 선거기간 외에는 표시의무를 부과하는 조항이 신설되었습니다. 

이를 위반하여 

(1) 선거기간 동안 금지되는 행위를 할 경우 7년이하의 징역 또는 1천만원 이상 5천만원 이하의 벌금에 처하고

(2) 선거기간 외 표시의무를 부작위한 경우에는 1천만원 이하의 과태료가 부과되며

(3) 선거기기간 외 표시 없이 이용행위를 할 경우 5년이하의 징역 또는 5천만원 이하의 벌금에 처해집니다. 

이번 개정안은 그 수범자에 제한이 없고, 

아래와 같이 그 표시사항과 방법이 구체적으로 명시되어 있다는 점에서 인공지능 기술 이용 시 주의가 필요합니다. 



 





위와 같은 규제는 ‘구체적인 행위를 금지하고 위반시 처벌조항을 두고 있다는 점’에서 그 자체로 억제 효과가 발생할 순 있겠지만, 

어느 정도 실효성이 있을지는 여전히 의문입니다. 

선관위는 [검증요원 모니터링→딥페이크 판별프로그램 검증→AI전문가 검증]의 3단계 판명과정을 거칠 예정이나, 

투입되는 검증요원은 59명, AI전문가는 단 3명에 불과합니다.

빠른 속도로 엄청난 양의 조작정보를 쏟아내는 AI의 속도를 사람이 일일이 검증하면서 따라잡기에는 무리가 있을 것입니다. 

검증에 인력이 투입됨으로써 발생하는 경제적 손실 역시 무시할 수 없습니다. 

또한 딥페이크의 해악이 선거운동의 영역에서만 국한되는 것이 아닌데, 

앞으로 피해가 발생하는 각 영역마다 일일이 관련 개별법의 개정을 통해 뒤늦은 규제를 시행할 예정인지 궁금합니다. 

딥페이크

 

 

‘딥페이크’… AI 법·제도 서둘러야 합니다.

가장 문제가 되고 있는 것은 AI 기술이 빠르게 발전하면서 등장한 딥페이크입니다.

딥페이크

AI 심층학습인 '딥러닝(deep learning)'과 가짜를 의미하는 '페이크(fake)'의 합성어

AI 기술을 활용해 기존 인물의 얼굴이나 특정 부위를 합성한 영상 편집물

선관위는 총선 관련 딥페이크 게시물 중 이달 말 209건 적발했습니다.

3주새 80건이 증가한 수치입니다.

AI 활용해 몇분만에 영상·이미지를 뚝딱 만들 수 있고,

진짜와 가짜 구분 점점 더 어려워지고 있습니다.

선거 관련 허위정보 신고채널 개설하고,

뉴스댓글 등 24시간 모니터링 강화하며

AI가 생성한 기사엔 따로 문구표기를 해야 합니다.



법·제도 갖춰져야 AI 잘 활용할 수 있어



기술 발전에 따라 악용 수법이 더욱 교묘해지면서 전 세계적으로 생성형 AI 등 최신 기술에 대한 안정성 확보와 규제 준비 움직임은 빨라지고 있습니다.

이데 유럽연합(EU) 의회 처음으로 AI 규제 법안을 내놨고, 

위험도에 따라 AI 기술을 분류하고, 기술 개발 과정의 투명성을 강화하는 것이 골자입니다.

위반한 기업엔 전체 매출의 최대 7%의 과징금을 부여하는 등 규제 수위가 높습니다.

유엔 총회에서는 21일 회원국들이 AI의 안전한 사용에 관한 국제적인 합의를 조속히 마련해야 한다는 내용의 결의가 만장일치로 채택됐습니다.

국제사회가 유엔총회 차원에서 AI 관련 결의를 공식 채택한 것은 이번이 처음입니다.

미국 주도로 제출된 이번 결의안은 AI 개발 및 활용이 빠르게 진행되고 있다는 점을 인식하고, 

안전하고 신뢰할 수 있는 AI 시스템에 관한 글로벌 합의를 이루는 게 시급하다는 점을 강조했습니다.

국내에서도 AI 기술에 대한 규범 및 법적 테두리 마련을 위해 논의가 꾸준히 진행 중이나 아직은 더디다는 평가가 나옵니다.

국회에 발의된 AI 관련 법안은 모두 계류 중인데다, 총선 일정 등을 감안하면 이른 시간 내 법안 처리 가능성은 매우 낮다는 것이 업계 평가입니다.



 <출처-https://www.fnnews.com/news/202403271826238217> 

관련 피해 사례

유명인 딥페이크로 인한 사기 피해 사례가 급증하고

개인의 권리가 침해당하는 사례도 증가하고 있습니다.

이에 신속한 법적인 대응이 필요한 경우 법률 전문가와 상담을 진행하실 수 있습니다.

 



©(주)법무법인 오킴스. All rights reserved.

<무단 전재 및 재배포 금지>