AI 윤리가 필요한 이유와 기업의 노력

Insight

Nov 17

2023/11/17   |  3 mins

Hailey (Contents Communication)
인공지능(AI) 윤리의 개념과 필요성이 궁금하신 분
신뢰할 수 있는 AI를 만들기 위한 기업의 노력에 대해 알고 싶으신 분
AI와 함께하는 시대, 기술을 슬기롭게 활용하며 우리의 삶을 존중하고 보호할 수 있는 방법과 이를 위해 AI 기업이 기울이고 있는 노력에 대해 탐색해 봅니다.
✔️ AI 윤리란?
✔️ 인공지능(AI) 윤리의 5대 문제
✔️ AI 윤리·신뢰성 실현 방안
✔️ AI 윤리·신뢰성에 대한 국제적 논의
✔️ AI 윤리·신뢰성을 위한 글로벌 AI 기업의 노력

인공지능(AI)은 우리의 삶과 사회에 많은 혜택을 가져다주고 있습니다. 금융, 의료, 교육, 물류 등 일상의 다양한 분야에서 편리함을 제공하는데 큰 역할을 하고 있는데요. 하지만 이러한 AI의 발전은 우리에게 편리함과 동시에 불안감을 야기하기도 합니다. 인간의 권리와 자유를 침해하거나 책임감, 창의성을 약화시키고 사회적 불평등을 악화할 수 있다는 우려 때문이죠.

따라서 AI가 인간의 존엄성과 공공선을 존중하고 보호하는 방식으로 설계, 운영되어야 한다는 주장을 담은 AI 윤리·신뢰성 확보에 대한 목소리가 더욱 커지고 있습니다. 지난 1일 영국에서는 역사상 첫 인공지능 안전성 정상회의가 열리는 등 신뢰할 수 있는 인공지능을 위한 전 세계적인 발걸음이 빨라지고 있는데요. AI와 함께하는 세상에서 우리의 삶을 존중하고 보호할 수 있는 방법은 무엇이며 기업은 어떻게 해결책을 모색하고 있는지 함께 탐색해 봅시다.

AI 윤리란?

AI 윤리란 인공 지능의 설계와 결과에 대해 조언하는 일련의 원칙, 가치 및 지침으로 인공지능을 도덕적이고 책임감 있게 사용하도록 하는 규율을 말합니다. ‘인공지능 기술 전망과 혁신정책 방향’이라는 정부 간행물에 따르면 AI 윤리를 “인공지능 관련 이해관계자들이 준수해야 할 보편적 사회 규범 및 관련 기술”로 조작적 정의를 내리고 있습니다.

AI의 사용과 개발에는 윤리적으로 고려해야 할 사항들이 많습니다. 그 중에서도 학습에 사용되는 데이터에 내재된 인지적 편향 문제에 대한 인식과 대응은 매우 중요한 문제인데요. AI는 다양한 데이터를 통해 학습되며, 이러한 데이터에는 인간에게 내재된 편향이 작용하기 때문에 이를 고려하여 편향을 최소화하고 공정성과 다양성을 증진할 수 있는 실험과 알고리즘을 구성하는 것이 중요합니다.

AI 윤리 분야의 세계적 석학인 산드라 와처 영국 옥스퍼드대 옥스퍼드인터넷연구소 교수 역시 지난 2021년, 중앙일보와의 인터뷰에서 AI 시스템은 과거의 데이터를 학습하고, 여기에는 불평등하거나 부조리한 사회적 유산이 담겨 있을 확률이 높기 때문에 편향적일 가능성이 크다고 언급하기도 했는데요. 때문에 강력하고 일관되게 적용할 수 있는 인공지능(AI) 윤리 집행·책임 메커니즘의 필요성이 더욱 커지고 있습니다. AI 윤리를 실현하기 위한 필수 요소에는 ‘AI 신뢰성’이 있으며 이는 예측 및 검증 가능하고 안전성, 공정성, 투명성을 갖춰 인간의 감독과 개입이 가능한 특성을 의미합니다.

인공지능(AI) 윤리의 5대 문제

현재 우리가 직면한 인공지능(AI) 윤리의 5대 문제는 다음과 같습니다.

편향성
앞서 언급한 것처럼 인간에게는 최신성 편향, 확증 편향과 같은 모든 종류의 인지적 편향이 작용하며, 이렇게 내재된 편향은 인간의 행동과 데이터에 반영됩니다. 데이터는 머신러닝 알고리즘의 토대가 되기에, 이러한 데이터로 학습하게 된 인공지능은 사회적 불평등이나 편견 등에 편향을 띄게 될 수 있으므로 이를 최소화하는 알고리즘을 개발하는 것이 필요합니다.
오류와 안전성
인공지능의 오류는 인간의 삶과 사회에 큰 영향을 미칠 수 있습니다. 예를 들어 의료 분야에 적용된 AI는 진단이나 치료 부분에서 인간의 생명을 구할 수 있지만, 반대로 잘못된 판단이나 오류가 발생하면 생명을 위협하는 등 예기치 못하게 치명적인 피해가 있을 수도 있다는 문제입니다.
악용
피싱, 딥페이크, 사이버 범죄 등 불법적이거나 비윤리적인 일에 인공지능을 악용하는 문제가 발생할 수 있습니다.
개인정보보호
인공지능은 방대한 데이터로 알고리즘의 학습을 거치므로, 이에 개인의 사생활을 침해하거나 정보가 유출되는 일이 없도록 사전에 예방해야 합니다.
킬러로봇
킬러로봇은 사람의 개입 없이 자동으로 사람을 공격할 수 있는 인공지능 기반 군사형 자율 로봇으로, ‘치명적인 자율 무기(Lethal Autonomous Weapon)’를 가리킵니다. 이는 인간의 안전과 생명을 위협할 수 있다는 측면과 국제적인 안보 문제 심화, 그리고 인간 공격시 책임소재가 불분명하다는 점으로 인해 논쟁이 이어지고 있습니다.

이에 나아가 생성형 AI, LLM(거대 언어 모델) 시대가 본격화되면서는 “거짓 정보 생성 가능성과 지적재산권 문제, 일자리 위협, 보안 및 프라이버시, 비윤리적 표현”이 인공지능 윤리 문제로 대두되고 있습니다.

국가 인공지능 윤리 기준 — 바람직한 인공지능 개발·활용 방향을 제시하기 위해 마련한 국가 인공지능 윤리기준
(출처: 과학기술정보통신부)

이러한 윤리적인 문제를 해결하기 위해서는 AI 윤리 기준을 확립하고 신뢰할 수 있는 AI를 개발하는 것이 중요한데요. 정부에서는 인공지능 윤리의 3대 기본 원칙으로 “인간의 존엄성, 사회의 공공선, 기술의 합목적성”을 제시하며 이를 모든 사람이 모든 분야에서 자율적으로 준수하며 지속 발전할 수 있도록 지향해야 한다고 언급했습니다. 10대 핵심요건에는 3대 기본원칙을 실천하고 이행할 수 있도록 인공지능 개발부터 활용 전 과정에서 1)인권보장, 2)프라이버시 보호, 3) 다양성 존중, 4) 침해금지, 5) 공공성, 6) 연대성, 7) 데이터 관리, 8) 책임성, 9) 안정성, 10) 투명성 등의 요건이 충족되어야 한다는 내용이 포함되어 있습니다.

AI 윤리·신뢰성 실현 방안

그렇다면 AI 윤리와 신뢰성을 실현하기 위해서는 어떻게 해야 할까요? 무엇보다 학계, 산업, 시민 사회에 이르기까지 다양한 이해관계자들이 협력하고 소통하는 것이 필요합니다.

[AI 개발자와 연구자]
AI 관련 법규와 윤리 가이드라인을 준수해 편향성을 최소화한 알고리즘을 개발하고 지속적인 모니터링을 통해 안전하게 운영할 수 있도록 해야 합니다. 또한 개인 정보 이슈가 없도록 데이터 보안에 신경쓰며 필요한 경우 사용자의 동의를 받아 데이터를 활용합니다. AI 시스템의 작동 방식과 한계를 명확하게 설명하고 문서화하는 것도 투명성을 유지하는데 도움이 됩니다.
[AI 사용자와 소비자]
AI 시스템의 장점과 위험을 이해하고, 신뢰와 비판적 사고를 갖추며, 피드백과 요구사항을 제시할 수 있어야 합니다.
[AI 규제자와 정책 입안자]
AI 개발과 사용의 방향을 제시하며, 신뢰성 있는 AI의 기준을 만들 수 있도록 표준과 규제를 마련해야 합니다. 이는 윤리적, 법적, 사회적 측면이 고려되어야 하며 지속적인 모니터링과 감독을 수행합니다.
[AI 교육자]
AI 시스템의 기초와 원리를 널리 알리고, AI 윤리에 대한 인식과 교육을 증진시키며 관련하여 다양한 의견과 논쟁을 촉진해야 합니다.

AI 윤리·신뢰성에 대한 국제적 논의

안전하고 신뢰할 수 있는 인공지능을 위한 국제적 논의는 AI가 전 세계적인 관심을 받으면서 더욱 활발하게 이뤄지고 있습니다.

지난 1일 영국에서는 역사상 첫 인공지능 안전성 정상회의가 열리며 국제적 논의가 급물살을 타기 시작했는데요. 이날 발표된 ‘블레츨리 선언’에는 새로운 AI 모델이 출시되기 전후에 정부와 인공지능 기업이 국가 안보 및 사회적 해악을 포함한 여러 위험성을 테스트하는 것으로 합의 되었으며, 여기에는 구글, 오픈AI, 마이크로소프트, 메타 등의 빅테크가 포함된 것으로 알려졌습니다.

이외에도 인공지능 윤리 관련 논의는 지난 몇 년간 계속되어 왔습니다. 유엔교육과학문화기구(UNESCO)는 2021년 제 41차 총회에서 193개 회원국의 만장일치로 AI의 건전한 발전을 보장하는 법적 인프라 구축을 안내할 공통 가치와 원칙을 정의하는 '인공지능 윤리 권고’를 채택했습니다. 유럽연합(EU) 또한 같은 해에 AI 시스템의 위험 수준에 따라 4단계의 규제를 적용하는 ‘인공지능에 관한 규제 제안’을 발표하였으며, 미국은 ‘인공지능 기술의 책임 있는 사용을 위한 국가 전략’을 공개한 바 있습니다.

국내에서는 2020년, 인간 중심의 AI 개발과 활용을 위해 5대 원칙과 10대 구체적 실천 방안을 제시한 ‘인공지능 윤리 헌장’을 선포한 이래로 최근 서울디지털재단에서 '서울시 생성형 인공지능(AI) 윤리 가이드라인’을 마련하여 이용자를 중심으로, 운영자 및 개발자가 지켜야 할 윤리적 준수사항을 안내하며 중요성을 강조하고 있습니다.

AI 윤리·신뢰성을 위한 글로벌 AI 기업의 노력

이러한 국제적이고 다양한 논의와 협력이 실제 AI 시스템의 개발 및 운영에 반영되기 위해서는 무엇보다 AI 기업의 적극적인 참여가 필요합니다. 현재 글로벌 AI 기업들은 이를 위해 어떤 노력을 하고 있을까요? 방대한 데이터를 모델 학습에 활용해야 하는 AI 기업은 데이터의 편향성 문제뿐만 아니라 저작권 준수, 개인 정보 보호, 투명성 등의 문제를 해결하기 위해 다양한 노력을 하고 있습니다.

기업별 인공지능 윤리 원칙 (출처: 2023.11 정보과학회지_초거대 언어모델 연구 동향 / 업스테이지 박찬준・이원성・김윤기・김지후・이활석)

해외 주요 기업의 사례를 살펴보면 마이크로소프트(MS)는 2019년 ‘AI는 인간 중심이어야 한다’, ‘AI는 공정하고 비차별적이어야 한다’, ‘AI는 개인 정보와 보안을 보호해야 한다’, ‘AI는 투명하고 설명 가능해야 한다’ 등으로 구성된 'AI 윤리 가이드라인’을 발표하며 이 가이드라인을 실천하기 위한 AI 공정성 진단 시스템인 ‘Fairlearn’을 공개한 바 있습니다. 구글은 2018년에 발표한 ‘AI 원칙’을 실현하고자 AI 모델의 성능과 편향성을 분석하는 오픈소스 도구 ‘TensorFlow Model Analysis 4’를 개발하였으며 AI 시스템의 윤리적 문제에 대한 연구와 교육을 지원하고 있기도 합니다.

국내에서도 네이버, LG, SKT 등의 대기업이 AI 윤리 원칙 준수에 동참하고 있는 가운데, AI 스타트업 업스테이지의 활약이 돋보입니다. 업스테이지는 자체 5대 AI 윤리 원칙을 제정하여 제품 개발 및 운영 과정에서 이를 준수하는 것에 그치지 않고, 더 나아가 데이터 수집 및 공유 플랫폼인 ‘1T 클럽’을 통해 데이터 제공자와 모델 제작 기업이 상생하는 생태계를 확립해 나가고 있습니다. 1T 클럽에 참여하는 파트너사들에게는 API 사용료 할인과 LLM의 API 사업 수익 공유 등의 혜택이 제공되며, 이를 통해 투명하고 윤리적인 양질의 데이터를 모아 국내 LLM의 독립과 글로벌 경쟁력 확보까지 기대할 수 있을 것으로 전망됩니다.

[업스테이지의 AI 윤리 원칙]

사람 중심 - 사람들에게 실질적인 도움과 혜택을 주는 공동체성 기반 AI, 사람 중심 AI를 개발한다.
신뢰성 - 믿음직한 AI, 인간이 신뢰할 수 있는 AI를 개발한다.
공정성 - 책임을 기반한 AI, 공정한 혜택을 제공하는 AI를 개발한다.
안전성 - 보안과 안전을 철저하게 고려한 서비스를 설계하고 프라이버시를 보호한다.
보편성 - 모두를 위한 AI, 다양성을 존중하는 AI를 만든다.

나가며

기술이 발전할수록 그것이 우리의 삶과 사회를 더 나은 방향으로 이끌어가기 위한 논의는 계속되어야 합니다. 현대 사회에서 AI의 영향력이 점점 커지고 있는 만큼 그에 대한 책임과 신뢰성 확보는 더 이상 선택이 아닌 필수적인 요소가 되었습니다. 기업뿐만 아니라 AI의 혜택을 누리고 있는 개개인의 관심과 참여가 지속되어 더욱 신뢰할 수 있는 기술로의 발전과 더 나은 미래를 만들어갈 수 있길 기대해 봅니다.

Private LLM