“역사 속 인종 식별 오류?” 구글 AI ‘제미나이’, 생성 이미지 신뢰성 ‘흠집’

[이뉴스투데이 유은주 기자] 구글의 생성형 AI 챗봇 제미나이가 1943년 ‘독일군’ 이미지를 생성해달라는 주문에 제복을 입은 유색인종 이미지를 제공해 역사 왜곡 등 신뢰성에 큰 타격을 입으며 도마위에 올랐다. 

신뢰성은 생성형AI 챗봇의 고도화를 평가하는 가장 중요한 지표 중 하나로 꼽힌다. 글로벌 빅테크를 중심으로 한 생성형AI 전쟁의 승패가 걸려있어, 이번 논란이 구글에게 치명타가 될 것이란 전망도 나온다. 

제미나이의 오류가 발생하자 향후 생성형 AI 서비스를 제공하는 타 경쟁업체들의 우세도 점쳐지며 업계 재편도 가능한 것 아니냐는 분석도 가능해지는 분위기다.  

4일 업계에 따르면 구글 제미나이는 독일군과 미국 건국자를 유색인종으로 묘사하는 등 이미지 생성과정에서 역사적 인물에 대한 오류를 재생산해 물의를 일으켰다. 바이킹족과 교황을 비롯한 여러 역사적 인물을 다양한 민족과 성별로 묘사한 것이 입방아에 오르기도 했다. 

최근 한 사용자는 구글 제미나이에게 1943년의 독일 군인의 이미지를 만들어달라는 주문을 입력했다. 그러자 제미나이는 해당 년도에 보기 드문 독일군 제복을 입은 유색인종의 이미지를 여러 차례 만들어냈다. 해당 사용자가 생성한 이미지를 자신의 SNS 채널인 X(구 트위터)를 통해 게시하며 논란이 커졌다. 

해당 이미지는 제미나이의 과다한 다양성 존중에 따른 것으로 밝혀졌다. 구글에 따르면 제미나이는 지나치게 ‘다양성’을 인식하고 알고리즘이 보수화된 나머지 일반적인 주문에 대해서도 일부 주문을 거부한 것으로 알려졌다. 이를테면 백인만 등장하는 주문 내역을 입력해도 이를 곧이곧대로 받아들이지 않는다는 것이다.  

구글 측은 오류를 인정하고 향후 몇 주 안에 다시 서비스를 재개하겠다는 입장이지만 정확히 언제부터 해당 이미지 생성을 이용할 수 있을지 확실히 하진 않았다. 

이러한 오류가 나온 것은 처음있는 일이 아니다. 구글은 지난해에도 AI 챗봇 바드의 시연회장에서도 오답을 구현해 구설에 올랐다. 이어지는 오류에 대한 신뢰도 하락이 불가피할 전망이 나오는 이유다. 

구글 측은 이번 사건에 대해 문제를 인식하고 있으며 생성형 AI를 통한 이미지 제작을 중단하고 사과와 조정을 통한 해결에 나서겠다고 밝혔다. 

업계 관계자들은 해당 오류에 대해 생성형 인공지능 시장 선점을 위한 구글의 욕심에서 비롯된 것이란 견해를 내놓고 있다. 오픈AI의 챗GPT를 과도하게 의식해 벌어진 일이라는 것. 이에 일각에서는 구글 CEO의 리더십에 대해 문제를 제기했다. 순다르 피차이 CEO의 경영 체제에 대한 의문이 이어지며 하차 요구가 벌어지기도 했다. 

구글은 지난달 초 기존 AI 챗봇 구글 바드의 이름을 ‘제미나이’로 새로 명명하고, 생성형 AI 제미나이 울트라가 탑재된 AI 챗봇 ‘제미나이 어드밴스드’를 출시했다. 제미나이를 통해 이용자들에게 구글의 뛰어난 인공지능 모델을 직접 경험해볼 기회를 제공하는 동시에 구독형 생산성 향상 AI 공급에 주력했다. 제미나이를 통한 야심찬 글로벌 테크와의 점유율 싸움을 본격화한 것이다. 

그러나 구글은 지난달 22일 AI 챗봇 제미나이에 이미지 생성 기능 서비스 제공을 중단했다. 제미나이에 해당 서비스를 추가 도입한 지 20여일만의 일이다. 구글은 제미나이의 이미지 생성 서비스 중단에 대해 “다양성에 대한 민감성과 역사적 사실에 대한 오류가 원인”이라고 밝혔다. 

순다르 피차이 구글 CEO는 사내 공지를 통해 “제미나이의 답변 일부가 사용자의 마음을 불쾌하게 했으며 편견을 드러냈다는 걸 알고 있다”고 알리며 “이는 용납할 수 없고 우리가 완전히 잘못한 것”이라고 강조하기도 했다. 

또 “그 어떤 AI도 지금과 같이 산업이 새로 부상하는 발전 단계에서 완벽하진 않지만 우리에게 높은 기준이 적용된다는 것을 알고 있다”며 “얼마나 오래 걸리든 계속 노력할 것”이란 의지를 표명했다. 아울러 “무슨 일이 일어났는지 검토하고 확실히 고칠 것”이라고 말했다. 

이러한 가운데 제미나이 오류에 향후 생성형AI 서비스 시장에서 타 경쟁업체들의 우세도 조심스레 점쳐진다.  

구글은 생성AI 어시스턴트 솔루션 제미나이를 내놓으며 스마트폰 운영체제 안드로이드처럼 기업과 소비자들이 사용하는 기기에 탑재하는 생성형 AI 보조 플랫폼을 선보였다. 메일과 문서작성, 이미지 생성 등 개인 업무에 AI 기능을 접목시킨다는 게 주된 목적이다. 

기존의 마이크로소프트, 오픈AI 등 구독형 생산성 향상 AI 공급에 주력하는 기업들과의 치열한 점유율 경쟁에 나서며 칼을 빼든 것이다. 

특히 주어진 명령에 따라 텍스트, 코드, 이미지, 비디오를 만들 수 있는 혁신적인 기능인 생성형AI는 미국 실리콘밸리 빅테크 기업들의 경쟁의 장이 되고 있다. 각 시스템에 탑재되는 요소 AI기술들을 내놓던 과거와 달리 빅테크들은 이제 소비자들을 대상으로 한 챗봇이나 검색툴 등 일반 AI 상품과 게이트웨이를 출시하는 데 몰두하고 있다. 

이번 오류를 통해 구글이 해당 시장의 선점 경쟁에서 뒤처지게 됐다는 분석도 나온다. 사용 편의를 높인 AI를 내놓고 시장에 뛰어든 오픈AI와 마이크로소프트, 엔트로픽, 미스트랄, 메타 등에 대한 기대가 높아지면서다.  

업계 한 관계자는 “메타의 경우에도 인종 다양성을 중점적으로 설정해 역사적 사실에 대한 이미지 생성 오류가 발생하고 있어 향후 시장 재편에 변수가 될 것”이라고 말했다. 

또 “생성형AI를 놓고 오픈AI-MS, 구글, 메타의 3파전이 강력한 가운데 향후 누가 주도권을 쥐게 될지는 좀 더 지켜봐야할 일이지만 구글의 AI 사업의 평판이 하락하고 지속적으로 신뢰를 잃는다면 큰 문제가 될 것”이라고 우려를 전했다.