책자는 인공 지능 기술의 발전 속에서 핵심 쟁점으로 떠오른 ‘안전성과 신뢰성’ 문제를 중심으로, 인간형 로봇(휴머노이드)·양방향 뇌-컴퓨터 인터페이스(BCI)·건강 돌봄 인공 지능 분야의 주요 현안과 사회적 영향, 대응 과제들을 정리했다. 특히, 전문가와 시민이 함께 한 토론회(포럼)와 설문조사를 통해 다양한 의견을 반영하여 이해하기 쉽게 구성했다.

‘안전·신뢰 인공 지능’은 기술의 정확성, 일관성, 예측 가능성 외에 위험요소에 대한 통제가능성, 책임성까지 포함하는 개념으로, 단순한 기술적 안전성을 넘어 준법적이고 윤리적이며 안전하고 책임성 있는 인공 지능을 통칭한다.

특히 인간형 로봇(휴머노이드), 양방향 뇌-컴퓨터 인터페이스(BCI), 건강 돌봄(헬스케어)과 같이 인간 신체·의식과 밀접하게 연결된 고위험 분야에서의 인공 지능 기술 확산은 기술에 대한 사회적 수용성과 더불어 안전성 검증 및 신뢰 확보가 무엇보다 중요한 과제로 대두되고 있다.

이 책은 먼저 인간형 인공 지능(휴머노이드 AI) 분야에서, 사회·산업적 기대감이 높아지는 인간형 로봇(휴머노이드 로봇)의 학습 오류·오작동, 사람과 로봇 간 의사소통 오류, 감지(센싱) 기술의 개인정보 침해 등 인간형 로봇(휴머노이드)의 여러 사회적·윤리적 문제를 짚어본다.

뇌 인공지능(브레인 AI) 분야에서는 뇌 신호 복호화(디코딩)와 양방향 뇌-컴퓨터 인터페이스(BCI) 기술이 의료·재활 등에서 새로운 가능성을 열 것으로 기대되는 한편, 군사적 전용 가능성, 보안 취약성, 뇌 자극으로 인한 중독 위험 등 잠재적 부작용과 위험 요소에 대한 우려도 커지고 있어 이에 대해 살펴본다.

건강 돌봄 인공 지능(헬스케어 AI) 분야에서는 빅데이터 수집·활용, 의료 의사결정에서의 책임 소재, 연령·인종·소득에 따른 건강 형평성 문제, 건강 데이터의 상업적 이용, 개인정보 유출, 데이터 편향·의존 등의 문제를 다룬다.

마지막으로 2024년 기술영향평가 추진과정과 주요 결과를 정리하여 소개한다. 기술영향평가 당시 전문가와 시민이 함께 논의하여 ‘인간형 인공지능(휴머노이드 AI)’, ‘뇌 인공 지능(브레인 AI)’, ‘건강 돌봄 인공 지능(헬스케어 AI)’의 핵심 쟁점을 발굴하고 그에 따른 핵심과제를 제안했다. 핵심 쟁점은 △개인정보 위험, △사고/오류 책임소재, △일자리·사회변화 등이며, 핵심과제는 △미래기술 안전성 기본법, △윤리안전 방침(가이드라인), △민감 정보 기반 기술 관리 체계(거버넌스), △미래기술 안전성 연구개발 등이 제시됐다.

과기정통부 임요업 과학기술혁신조정관은 “인공 지능 기술의 안전성과 신뢰성 확보는 기술 수용성과 사회 신뢰의 기반이며, 국민과 함께 기술의 미래를 설계하는 것이 핵심”이라고 말하며, “앞으로도 전문가와 시민이 함께 참여하는 기술영향평가를 지속적으로 추진할 것”이라고 밝혔다.