‘인공지능 윤리’ 시리즈의 세 번째 주제인 이번 콘텐츠는 사람이 중심이 되는 인공지능 윤리 기준을 살펴보고, 이어서 트위그팜 언어처리 엔진 LETR의 윤리 원칙을 소개합니다. 첫 번째 주제 ‘인공지능도 윤리가 필요할까?’, 두 번째 주제 ‘인공지능 윤리 여기까지’에서 이어지는 내용이니 확인하고 보실 것을 추천드립니다.
인공지능 윤리: 01. 인공지능도 윤리가 필요할까? 보러가기
인공지능 윤리: 02. 인공지능 윤리 여기까지 보러가기
아시모프의 로봇 3원칙 이후 기술의 발전과 함께 세계 각국과 주요 국제기구는 물론 관련 기업, 민간 연구소 등은 윤리적인 인공지능의 구현을 위한 원칙들을 발표해왔습니다. 그만큼 인공지능 윤리가 중요한 문제이고, 이전에는 고려하지 못한 새로운 윤리 이슈가 나타나고 있다는 의미겠죠.
다만 지난 글에서도 살펴보았듯 여러 차례 논의와 합의를 거치며 우리 모두가 나아가야할 방향은 어느정도 정해졌다 생각합니다. 결국 인간을 본떠, 인간에 의해 만들어지고, 인간을 위해 존재하는 인공지능이 위협이 되지 않도록 바람직한 미래를 그려나가려는 인간의 의지와 책임감이 가장 중요할 것입니다.
그리고 이런 거대한 흐름에 발맞춰 우리나라에서도 지난 2020년 범 국가 차원에서 다음과 같은 인공지능 윤리 원칙을 발표합니다.
사람이 중심이 되는 ‘국가 인공지능 윤리기준’*
인간성(Humanity)을 지향해야 할 최고 가치로 설정하고, 이를 위해 인공지능 개발 및 활용의 전 과정에서 지켜야 할 3대 기본원칙과 10대 핵심요건을 제시합니다.
목표 및 지향점
모든 사회 구성원이 모든 분야에서 자율적으로 준수하며 지속 발전하는 윤리기준을 지향한다.
최고 가치
윤리기준이 지향하는 최고 가치를 ‘인간성(Humanity)’으로 설정
3대 기본원칙
‘인간성(Humanity)’을 구현하기 위해 인공지능의 개발 및 활용 과정에서 1. 인간의 존엄성 원칙, 2. 사회의 공공선 원칙, 3. 기술의 합목적성 원칙을 제시
10대 핵심요건
3대 기본원칙을 실천하고 이행할 수 있도록 인공지능 개발~활용 전 과정에서 1. 인권 보장, 2. 프라이버시 보호, 3. 다양성 존중, 4. 침해금지, 5. 공공성, 6. 연대성, 7. 데이터 관리, 8. 책임성, 9. 안전성, 10. 투명성의 요건이 충족되어야 함
어쩌면 우리는 이제 인공지능과 공존하는 지능정보사회를 향한 첫 발을 내딛은 건지도 모릅니다. 이제 인공지능 윤리에 관해서는 계속해서 우리 모두가 관심을 갖고 논의를 이어가야 할 것입니다.
트위그팜 인공지능 윤리
트위그팜도 인공지능 자연어처리 전문 기업으로서 사회적 책임에 걸맞는 윤리 원칙을 고민해왔습니다. 이에 모든 구성원이 인공지능 기술을 개발하고 이용하는 전 과정에서 윤리에 대한 관심과 실천을 지속하기 위해 ‘언어처리 엔진 LETR 윤리 원칙(초안)’을 준비하게 됐습니다.
LETR 윤리 원칙은 대표적인 국내외 유관 사례들에 대한 비교분석과 함께 내부 전문가들의 의견을 수렴하고, 기업 철학과 LETR 기술로 더 나은 세상을 만들겠다는 비전을 반영하여 설계했습니다.
다만 이번에 공개하는 윤리 원칙(초안)은 시작 단계로서 내부 구성원은 물론 업계 전반의 관심과 공감대를 불러일으키는데 더 큰 의의가 있습니다. 앞으로 내외부의 다양한 의견을 수렴하고, 실제 현업에서의 적용 사례를 축적함으로써 지속적으로 개선하고 구체적인 실천 방안을 마련해 나갈 것입니다.
언어처리 엔진 LETR 윤리 원칙
LETR는 언제, 어디서나, 사람과 사람 사이의 커뮤니케이션을 돕기 위해 존재합니다.
우리는 언제나 우리의 존재이유를 잊지 않고, 모두를 위한 더 나은 세상을 위해 흔들림없이 나아갑니다.
따라서 우리가 디자인하는 모든 것은 사람과 함께 시작하며, 그리고 모든 것의 중심에는 사람이 있습니다.
사람 중심 Empower and Engage People
LETR 기술이 제공하는 모든 제품과 서비스, 그리고 경험의 중심에 사람을 최우선으로 놓습니다.
LETR 기술은 일상의 언어생활에 긍정적인 변화를 선사함으로써 모두를 위한 더 나은 세상을 만들기 위해 연구, 개발하고 있습니다. 무엇보다 기술에 대한 책임은 사람에게 있어야 하기에, 적절한 통제와 지속적인 개선을 통해 인류에 기여할 수 있도록 개발하고 이용하겠습니다.
정보 보호 Privacy and Security
LETR 기술을 연구, 개발하고 이용하는 전 과정을 통해 프라이버시와 사용자의 데이터 주권을 보호하겠습니다.
데이터의 수집, 관리, 활용에 있어 개인의 프라이버시부터 사용자의 데이터까지 정보보안을 위협하는 모든 가능성을 차단할 수 있도록 노력합니다. 사용자의 데이터 주권을 존중하는 알고리즘을 설계하여 누구나 걱정하지 않고 LETR 기술과 서비스를 이용할 수 있도록 만들겠습니다.
사회 기여 Socially Beneficial
LETR 기술은 보편적인 사회의 공공선*에 부합함으로써 모두를 위한 더 나은 세상을 만드는 데 기여합니다.
우리는 LETR 기술이 인류 모두를 위한 더 나은 세상을 만드는 데 사용되어야 한다고 믿습니다. 따라서 우리는 편향되거나 차별적인 가치로 인해 부당하거나 유해한 상황이 발생하지 않도록 방지하기 위해 노력합니다. 특히 인간의 존엄성과 권리, 자유 및 다양성의 가치를 침해하지 않도록 엄정하게 관리하며, 우리의 기술과 서비스가 사회 전반의 편익과 행복에 기여하도록 최선을 다합니다.
인공지능 윤리
인공지능 윤리: 01. 인공지능도 윤리가 필요할까? 인공지능 윤리: 02. 인공지능 윤리 여기까지인공지능 윤리: 03. 사람중심 AI와 LETR 윤리원칙
