BizOn

[기자의 관심] AI의 윤리적 과제: 공정한 인공지능 

AI 편향성이란 무엇인가?

오늘 하루를 되돌아보았을 때, 인공지능(AI)을 사용한 적이 있는가? 아니면 온라인 쇼핑 시 추천 상품을 확인한 적 있는가? 이러한 순간들은 우리 생활에서 AI가 깊숙이 자리 잡고 있음을 알 수 있다. 2016년, 알파고와 프로바둑 기사 이세돌이 대국을 펼칠 때만 해도 인공지능(AI)과 나는 접점이 없다고 생각했을 것이다. 그러나 지금 우리의 일상을 살펴보면 교육, 금융, 건강 등 다양한 방면에서 AI가 자리 잡고 있다. 이제는 "AI 없이 살 수 없다"는 말이 과언이 아닐 정도로 AI는 우리의 일상에서 상용화 되어있다. AI는 단순한 도구를 넘어 우리 삶의 거의 모든 분야에서 변화를 일으키며, 보다 효율적이고 편리한 삶을 누리게 하고 있다. 

이에 관해, 우리는 인공지능이 무엇인지 알아볼 필요가 있다. 인공지능(AI)은 인간의 지능을 모방해 인간처럼 생각하고 문제를 해결할 수 있도록 설계된 컴퓨터 프로그램이다. AI는 머신러닝, 딥러닝 등의 기술을 활용하여 데이터를 분석 및 학습하며, 알고리즘에 기반해 패턴을 인식하고 예측한다. 넷플릭스 같은 OTT 서비스에서 영화를 추천해 주거나 SNS의 개인 맞춤형 광고가 인공지능(AI) 머신러닝의 대표적인 사례이다. 머신러닝은 빅데이터를 통해 복잡한 패턴을 발견하고 예측을 수행하며, 더 나은 의사결정을 내리고 개인화된 서비스 제공할 수 있게 한다. 또한 기존에 해결하기 어려웠던 문제들을 새로운 방식으로 접근하여 비즈니스, 과학, 의료 등 모든 분야에서 변화를 가져오고 있다. 

그러나 이러한 기술의 한계와 문제점도 생각해야 한다. 머신러닝 기술은 학습 데이터의 품질과 양에 크게 의존하기 때문에, 학습 데이터에 편향이 있다면 AI도 편향된 결론을 내릴 수 있다. AI 편향성이란 AI 의사결정이 한쪽으로 치우친 결과를 만들어내는 경향성을 의미한다. 과거의 데이터를 학습하는 AI에게서 이러한 현상이 나타난다. 실제로 이미지 생성 AI인 ‘스테이블 디퓨전’이 생성한 판사 이미지 중 여성은 약 3%에 불과했지만, 실제 미국 판사의 34%가 여성이었다. 이러한 편향성 문제는 점점 AI의 활용 범위가 넓어지는 만큼 심각한 사회적 문제로 이어질 수 있음을 경고한다.

2018년, 이슈가 됐던 [아마존의 채용 AI]를 대표적인 사례로 꼽을 수 있다. AI가 학습한 데이터에 내재된 편견이 알고리즘에 반영되면서 특정 성별이나 인종을 차별하는 결과를 초래하였다. AI는 당시 남성 비율이 높았던 개발 부서의 이력서를 기준으로 학습하여 ‘여성’이라는 단어가 포함된 이력서를 낮게 평가하는 등 성별 고정관념이 알고리즘에 반영되었었다. 결국 아마존은 데이터를 수정하거나 알고리즘을 고치는 것만으로는 한계가 있다고 판단하여 해당 AI 채용 프로그램을 폐기하였다. 

앞으로 우리의 세대는 끊임없이 발전하는 인공지능(AI)을 경험할 것이다. AI의 급속한 발전은 윤리와 인권, 안보 등의 측면에서 예상치 못한 문제를 야기할 수도 있다. 우리는 인공지능(AI)을 개발하고 활용할 때, 윤리적 문제를 항상 염두에 두고, 공정하고 투명한 AI 시스템을 구축하기 위한 노력을 지속해야 한다. 사회의 구조와 문화에 따라 데이터가 편향된다면, 인공지능 역시 편향될 수밖에 없다. 인공지능의 편향성 문제는 심각한 사회적 문제로 이어질 수 있음을 계속 인지하고, 이러한 한계점을 해결하기 위해 지속적으로 인간이 개입해야 한다. 편향적인 데이터가 아닌 다양한 데이터를 충분히 확보하고, 데이터 전처리 과정에서 편향을 제거해야 한다. 그리고 AI의 의사결정 과정을 명확히 설명할 수 있는 해석 가능한 모델을 개발하여 지속적인 모니터링을 해야 한다. 인공지능의 발전이 가져올 변화는 우리에게 큰 기회를 제공하지만, 동시에 그로 인한 부작용과 편향 문제를 간과해서는 안 된다. AI가 인간의 가치와 윤리에 부합하는 방향으로 발전해 나가길 바라며 이 글을 마친다. 

기자 김민서(23)

BizOn Online Newsletter Vol.77 (2024.09.)