AI의 이중성-알고리즘의 편견과 현실에 없는 사람들이 돌아다닌다!

서론

우리가 살아가는 현대 사회에서는 인공지능(AI)이 점차 중요한 역할을 하고 있습니다. 우리의 일상생활부터 산업 분야까지, AI는 많은 변화를 가져왔고, 이로 인해 생긴 장점과 단점을 동시에 경험하고 있습니다. AI 기술의 발전은 정보 처리 속도를 높이고, 복잡한 문제 해결 능력을 향상하며, 일상생활에서의 편리함을 제공합니다. 이런 점들은 AI가 가져온 긍정적인 변화입니다. 하지만 반면에, AI 기술의 발전은 일자리 감소와 같은 사회적 문제를 야기하기도 합니다. 또한 데이터 보안과 개인정보 보호 등 중요한 문제들이 대두되며 이에 대한 해결책이 요구되고 있습니다. 

 

섬뜩하지만 세상에 존재하지 않는 사람들을 너무나 사실적이고 자연스럽게  ai가 만들어 내는 세상에 살고 있습니다.  

 

ai가 그린 세상에 없는 여자

본론

요즘 윤리적으로 많은 문제를 만들어내는 Deepfake는 AI 기반의 기술로, 사람들의 얼굴이나 목소리를 매우 정확하게 복제하고 조작할 수 있게 해주는 프로그램이 있습니다.  Deepfake는 'Deep Learning'(딥 러닝)과 'Fake'(가짜)라는 두 단어를 합친 용어인데, 이 기술은 실제 존재하는 사람들의 얼굴과 목소리를 사용해 가상의 비디오나 오디오 클립을 만드는 데 사용됩니다. 이런 비디오나 오디오 클립은 실제와 거의 구분할 수 없을 정도로 진짜처럼 보일 수 있습니다.  실제 많은 피해를 만들어 내고 있습니다.  당사자가 하지도 않은 말과 행동을 그대로 실제처럼 만들어 누구든지 속을 수 있어 피해자가 현실에서 생겨나고 있으니, 방어도 쉽지 않다고 합니다. 

 

Deepfake 기술은 엔터테인먼트 분야에서 흥미로운 활용 가능성을 제시하지만, 동시에 여러 가지 문제점도 야기합니다. 예를 들어, 이 기술이 부적절하게 사용되면 개인의 프라이버시 침해, 허위 정보 유포 등 다양한 윤리적 문제와 법적 문제가 발생할 수 있습니다. 따라서 Deepfake 기술에 대한 적절한 규제와 관리 방안 마련이 필요하며, 이에 대한 공론화가 활발히 진행되고 있습니다.

 

결론

AI 시대를 위한 미래 대책 AI 기술의 발전은 우리 사회에 많은 변화를 가져온 것도 맞지만 실제  얼마 전 스포츠 스타 앙투안 그리에즈만이 화웨이와의 스폰서 계약을 해지한 것으로 알려졌습니다.  그리에즈만은 화웨이가 AI 안면인식 기술을 통해 소수민족을 차별하는 행위를 한다는 이유로 계약 해지를 결정한 것이 화제가 되었습니다. 

 

미국 영상감시연구소(IPVM)가 발견한 문건에 따르면, 화웨이는 2018년 안면인식 스타트업 '메그비'와 협력하여 군중 속에서 개인 얼굴을 인식하고 민족, 나이, 성별을 구분할 수 있는 AI 카메라 시스템을 시험해 봤습니다. 이 시스템은 위구르족 얼굴로 식별되면 자동으로 중국 공안에 '위구르 경보'를 보내는 기능까지 포함되어 있습니다.  인권을 무엇보다 중요시하는 21세기에는 오히려 끔찍한 감시도구에 지나지 않는다는 생각이 듭니다.   AI의 부정적 사용 우려는 화웨이뿐만 아니라 다른 IT기업들에서도 나타나고 있습니다. 구글은 자사 AI가 비판받는 논문을 작성한 연구원 팀닛 게브루를 해고하는 등의 사례도 있습니다.

 

deep fake는 AI 악용 문제가 가장 크게 드러나며, 이를 통해 만들어진 가짜뉴스 영상과 음란물 합성 등의 문제가 증가하고 있습니다.  특히,정치인,유명 연예인, 스포츠 선수들은 이 악용에 심각하게 노출되어 있음을 부인할 수는 없습니다.

 

유튜브의 AI 알고리즘 자체가 편견을 가질 수 있다는 점 역시 우려되며, 여러 사례들로 인해 전 세계적으로 AI 알고리즘의 '공정성'에 대한 질문이 제기되고 있습니다. 결국 모든 이런 상황들은 AI 기존 설계자의 생각과 가치관이 반영될 수밖에 없음을 보여주며, 이러한 문제점들로 인해 감사 시스템이 필요하다는 의견이 제시되고 있습니다. 이를 통해 AI가 우리 사회의 문화와 윤리를 잘 반영하도록 해야 한다는 주장입니다.

기술을 멈출수도 없고, 또한 기술을 진보시키면 시킬수록 인권문제와 깊게 맞닿아 있어 앞으로 어떤 세상이 펼쳐질지 설렘보다는 두려움이 더 큰 것은 저만의 생각일까요?