[꼬레아페르 114] 인공지능의 윤리적 문제: 대의를 위한 노력
인공지능은 인간을 대체할 것인가? 창조자인 인류에게 대항할 것인가? 인류에게 위협이 될 것인가?
생성형 AI가 대중화되고 몇몇 유명 인사가 충격적인 발언을 하면서, 인공지능과 관련된 질문들을 두고 공개토론이나 미디어를 통한 논쟁이 야기되고 있다. 이런 철학적 성찰들이 흥미롭긴 해도 다소 이른 감이 있다는 것이 대다수 전문가의 의견이다.
인공지능이 엄청난 잠재력을 갖고 있는 것은 사실이다. 이 기술을 통해 다양한 업무가 자동화되고, 새로운 서비스가 창출되며, 궁극적으로 경제가 더 효율적으로 작동할 것이다. 이러한 흐름 속에 생성형 AI가 새로운 한 획을 그었고, 우리는 수많은 활용 가능성을 막 탐색하기 시작했다.
인공지능 시스템이 주목할 만한 성과를 내고 있다 해도 사실 이것은 본질적으로 기계이며 대량의 데이터 처리가 가능한 프로세서에 적용된 알고리즘에 불과하다는 사실을 잊어서는 안 된다.
"생성형 AI는 빠르게 확산하지만 반드시 신뢰할 수는 없는 콘텐츠를 매우 쉽게 생산한다."
새로운 인공지능이 튜링 테스트를 통과할 수 있을 것이라 한다. 아마도 그럴 것이다. 하지만 한때 인간의 지능과 인공지능을 구별할 수 있다고 여겼던 튜링 테스트는 실질적 가치를 잃은 지 오래다. 인공지능은 감수성, 상황 적응력, 공감 능력, 사고력, 책임감을 망라하는 인간의 복합적인 지능을 구현할 수 없으며 가까운 미래에 이를 실현하기도 어려울 것이다.
보다 일반적인 관점에서, AI가 중요해지면서 윤리적 문제가 제기되고 있지만 이는 새로운 것은 아니며 다만 챗지피티와 여타 AI의 등장으로 더욱 긴급해졌을 뿐이다. 사용의 문제는 차치하고, 윤리적 문제는 AI와 AI 학습에 사용된 데이터로 인해 발생, 증대한 차별과 가짜 뉴스의 확산(고의든 ‘AI 환각 현상’ 때문이든)에 관계된다. 하지만 오래전부터 이 두 사안을 우려해 온 알고리즘 연구자, 입법자, AI 기업은 위험을 관리하기 위해 이미 기술적, 법적 해결 방안을 실행하고 있다.
먼저, 기술적 해결책을 보자. AI 개발 과정 자체에 윤리적 원칙을 적용하는 것이다. 가령 가이드라인을 마련하면 시스템의 투명성과 설명가능성을 보장해 소비자와 사용자에게 가시성을 제공할 수 있다. 또한 기관들은 알고리즘 설계 시 편향(특히 성별과 외모에 관한 편향)을 최소화하는 것을 지향해야 한다. 사용 데이터의 교정 학습이 하나의 해결책이 될 수 있다. 탈레스는 오래전부터 인공지능 시스템 설계 시 ‘블랙박스’ 가 생기지 않도록 노력하고 있다.
법적 측면에서는 유럽연합이 단연 앞서있다. 유럽연합 집행위원회와 유럽의회는 2년여 전부터 고위험 인공지능 활용을 규제하는 법안을 마련하기 위해 애쓰고 있다. 아시아에서도 각국이 그 뒤를 이어 인공지능 활용 규제안을 마련할 것으로 보인다. 인공지능을 둘러싼 환경이 계속 변화하는 가운데 책임감 있는 인공지능 활용은 여전히 각국 정부의 최우선 과제로 남아있다.
뿐만 아니라 교육과 진정한 의미의 사회 변화를 통해 인공지능 오용과 관련된 위험을 대비할 수 있을 것이다. 디지털의 등장으로 성행하기 시작해 인공지능의 대대적 확산과 함께 심화될 위험이 있는 즉각성 문화에서 벗어나야 한다. 알다시피 생성형 AI는 빠르게 확산하지만 반드시 신뢰할 수는 없는 콘텐츠를 매우 쉽게 생산한다. 이는 소셜미디어의 작동, 그리고 소셜 미디어가 즉각적인 반응과 갈등을 조장하는 방식과 관련해 널리 알려진 문제점을 악화할 수 있다. 게다가 이러한 환경에서 출처를 찾고 대조하거나 그 진위를 확인해 보지 않고도 ‘바로 이용할 수 있는’ 대답을 얻는 것에 길들여진 우리는 지적 게으름에 빠지게 된다. 이에 비판적 사고가 약화하면서 상황은 더 나빠질 수 있다.
즉각적으로 반응하기보다는 시간을 들여 맥락을 이해하고 콘텐츠의 신뢰도를 평가하며 건설적 대화를 나누는 것이 건강한 디지털 생활의 중요한 요소다. 이를 이론과 실습을 통해 가르치는 것이 전 세계 교육시스템에서 최우선 순위가 되어야 한다. 다음 세대를 교육함으로써 노동 시장의 미래를 만들어가는 것이다.
탈레스는 기술을 선도하는 세계적 기업으로서 인공지능 활용의 가능성과 잠재력을 탐색하고 기술의 효용을 극대화하고자 한다. 실제로 군과 기체 제작사, 핵심 인프라 운영사에 안전하고 효율적인 AI 솔루션을 제공하는 것을 목표로 하는 이니셔티브 ‘cortAIx’를 출범시키면서 탈레스는 주요 시스템에 인공지능을 도입해 더 나은 데이터 분석과 의사 결정을 돕는다. 이를 통해 국방, 항공우주, 사이버보안, 디지털 ID등 여러 분야에서 혁신과 안전성이 보장될 수 있다. 또한 디지털 ID의 보안 강화를 목적으로 탈레스는 인공지능을 도입해 정부와 기업에 생체 인증 카드의 인식 정확도를 향상할 수 있는 솔루션을 제공하고, 알고리즘과 머신러닝을 활용해 신분 위조를 예방하는 데 주력하고 있다.
탈레스는 이와 같은 도전을 이어가 인공지능 기술의 무한한 잠재력을 이끌어 내어 과학과 의학, 생산성, 교육의 발전에 기여할 것이다.
