도덕적인 AI [월터 시넛 암스트롱, 재나 셰익 보그, 빈센트 코니처] 정리

https://www.yes24.com/product/goods/141746357

도덕적인 AI - 예스24

 

이 책은 신경과학자(샤이크 보그), 철학자(시놋-암스트롱), 그리고 컴퓨터 과학자(코니처)라는 각기 다른 분야의 전문가들이 협력하여 인공지능(AI)의 도덕성이라는 복잡한 문제에 다학제적으로 접근하는 주목할 만한 저작입니다. 제목에서 알 수 있듯이, 단순히 AI 윤리의 문제를 제기하는 것을 넘어 '어떻게 하면 도덕적인 AI를 실제로 구현할 수 있을지'에 대한 구체적인 방법론과 로드맵을 제시하고자 합니다.

책의 주요 내용 및 핵심 주장:

1. 도덕적 AI의 필요성과 도전 과제:
   • AI가 우리 사회의 다양한 영역(자율주행, 의료, 금융, 사법 등)에 깊숙이 통합되면서 AI의 결정이 인간의 삶과 복지에 미치는 영향이 커지고 있음을 강조합니다. 따라서 AI가 인간의 도덕적 가치와 원칙에 부합하게 행동하도록 설계하고 통제하는 것이 시급한 과제임을 역설합니다.
   • 기존의 AI 윤리 논의에서 제기되는 주요 도전 과제들, 즉 AI의 편향성, 책임 소재의 불분명함, 의사결정 과정의 불투명성(블랙박스 문제), 그리고 인간의 다양하고 때로는 모순적인 가치를 AI에 어떻게 반영할 것인가(가치 정렬 문제) 등을 심도 있게 다룹니다.
2. 도덕성의 다학제적 이해:
   • 신경과학적 관점 (Jana Schaich Borg): 인간이 도덕적 판단과 행동을 할 때 뇌에서 어떤 일이 일어나는지, 공감, 죄책감, 공정성 인식과 같은 도덕적 감정과 인지 기능의 신경학적 기초를 탐구합니다. 이러한 이해는 AI에게 인간과 유사한 (또는 인간이 이해할 수 있는) 도덕적 추론 능력을 부여하는 데 필요한 통찰을 제공할 수 있습니다.
   • 철학적 관점 (Walter Sinnott-Armstrong): 수천 년 동안 논의되어 온 윤리학 이론들(공리주의, 의무론, 덕 윤리 등)이 AI의 도덕적 알고리즘 설계에 어떻게 적용될 수 있는지, 또는 새로운 윤리적 프레임워크가 필요한지를 논합니다. 특히, 현실 세계의 복잡한 도덕적 딜레마 상황에서 AI가 어떻게 합리적이고 일관된 판단을 내릴 수 있을지에 대한 철학적 기준을 제시하려 합니다.
   • 컴퓨터 과학적 관점 (Vincent Conitzer): 도덕적 원칙과 추론 과정을 계산 가능한 형태로 모델링하고, 이를 AI 시스템에 통합하는 기술적인 방법들을 탐구합니다. 계산 사회 선택 이론, 게임 이론, 기계 학습 등을 활용하여 AI가 공정하고 효율적인 결정을 내리도록 설계하거나, 여러 도덕적 가치들 사이의 충돌을 해결하는 메커니즘을 개발하는 방안을 제시합니다.
3. "어떻게 거기에 도달할 것인가 (How We Get There)": 구체적인 방법론과 로드맵:
   • 상향식 접근(Bottom-up approach) vs. 하향식 접근(Top-down approach): 도덕 규칙을 직접 프로그래밍하는 하향식 방식과, 데이터로부터 도덕적 행동 패턴을 학습하는 상향식 방식의 장단점을 비교하고, 이 둘을 결합한 하이브리드 접근의 가능성을 모색합니다.
   • 인간-AI 협력(Human-AI Collaboration): AI가 단독으로 도덕적 결정을 내리기보다는, 인간의 감독 하에 또는 인간과 협력하여 도덕적 판단을 내리는 시스템(Human-in-the-loop)의 중요성을 강조할 가능성이 높습니다.
   • 모듈식 설계(Modular Design): AI 시스템 내에 명시적인 '윤리 모듈' 또는 '도덕 엔진'을 탑재하여, 다른 기능들과 분리된 상태에서 도덕적 판단을 담당하게 하는 아키텍처를 제안할 수 있습니다.
   • 가치 학습 및 명료화(Value Learning and Elicitation): 인간으로부터 명시적 혹은 암묵적으로 도덕적 가치를 학습하거나 추출하는 기술, 그리고 불완전하거나 모순되는 가치들을 다루는 방법을 논의합니다.
   • 테스트 및 검증(Testing and Verification): 개발된 도덕적 AI 시스템이 실제로 윤리적 기준을 충족하는지, 다양한 시나리오에서 안전하게 작동하는지를 테스트하고 검증하기 위한 프레임워크와 방법론의 중요성을 강조합니다.
   • 사회적 합의와 거버넌스: 기술적인 해결책만으로는 충분하지 않으며, 도덕적 AI의 개발과 배포에 대한 사회적 논의, 윤리적 가이드라인 제정, 법적 규제 마련 등 다층적인 거버넌스 체계 구축의 필요성을 역설합니다.
4. 실용적이고 현실적인 접근 강조:
   • 저자들은 완벽하게 도덕적인 AI를 단번에 만드는 것이 아니라, 점진적으로 개선해나가고, 발생할 수 있는 위험을 최소화하며, 인간 사회에 유익한 방향으로 AI 기술을 발전시켜야 한다는 실용적인 관점을 취할 것으로 보입니다.
   • 다양한 문화적 배경과 가치관을 가진 사람들이 AI의 도덕성에 대해 서로 다른 기대를 가질 수 있음을 인정하고, 이러한 다양성을 존중하면서도 보편적으로 수용 가능한 최소한의 윤리적 기준을 모색하려 할 것입니다.

결론적으로, 야나 샤이크 보그, 월터 시놋-암스트롱, 빈센트 코니처의 "Moral AI: And How We Get There"는 AI 윤리라는 난제를 해결하기 위해 신경과학, 철학, 컴퓨터 과학의 지혜를 융합한 선구적인 저작입니다. 이 책은 AI가 점점 더 우리 삶의 중요한 결정들을 내리게 될 미래를 대비하여, 어떻게 하면 AI를 인류의 도덕적 나침반에 맞춰 개발하고 활용할 수 있을지에 대한 심도 깊은 통찰과 구체적인 청사진을 제공하고자 합니다. AI 연구자, 개발자, 정책 입안자뿐만 아니라, 미래 사회의 AI의 역할에 관심 있는 모든 이들에게 중요한 필독서가 될 것으로 기대됩니다.