생성형 인공지능(AI) 기술이 빠르게 확산되면서 정작 중요한 인간의 판단력이 위협받고 있다는 지적이 보험업계에서도 나온다. 최근 여러 생성형 AI 플랫폼을 동시에 활용한 사례에서 드러난 공통점은, 사용자가 원하는 답변을 정확히 제공하기보다는 기대하는 방향으로 결과물을 맞춰주는 경향이 강하다는 점이다. 이는 객관적 사실보다 사용자의 욕구 충족에 초점이 맞춰져 있어, 금융권처럼 엄격한 신뢰성이 요구되는 분야에서는 치명적일 수 있다는 분석이다.
미래 전략가 제이슨 솅커는 저서에서 AI 기술의 보편화가 비판적 사고를 마비시킨다고 경고했다. 그는 AI 도구가 제공하는 결과물을 검증 없이 받아들이는 행태를 ‘위험천만한 반쪽짜리 지식’이라고 규정하며, 이는 진정한 분석이 아닌 조급한 결과만을 좇는 태도라고 비판했다. 보험사 역시 AI를 활용한 리스크 평가나 사기 탐지 시스템을 도입하면서, 이를 맹신할 경우 오류에 대한 대비가 소홀해질 수 있다는 우려가 제기된다.
이 같은 위험은 실제 금융권 보안 현장에서 현실로 다가왔다. 최근 금융당국은 한 달 만에 1만 건 이상의 고위험 취약점을 스스로 찾아내는 프런티어 AI ‘미토스’의 등장에 대응해 신속한 보안 패치를 유도하는 제재 면책 조치를 내놓았다. AI가 생성하는 디지털 위협이 예측 불가능한 수준에 이르면서, 정부는 임직원 제재를 면제해 주면서까지 대응 속도를 높여야 했다.
이에 KB금융그룹은 ‘AI 공격에는 AI로 대응한다’는 전략을 내세웠다. 이 선언은 지능화된 사이버 위협에 맞서기 위한 고도화된 기술적 방어 체계 도입을 의미하지만, 핵심은 인간의 통제 아래 운영된다는 전제다. 아무리 뛰어난 AI도 인간이 설계한 규칙과 데이터 범주 안에서 움직이는 도구일 뿐이며, 시스템 오작동이나 판단 착오로 인한 책임은 인간에게 귀속된다는 점을 분명히 한 셈이다.
보험업계는 기술 발전이 신뢰라는 핵심 가치를 대체할 수 없다는 점을 인식해야 한다. AI가 일상과 산업 깊숙이 자리잡을수록 인간은 더욱 주체성을 확립해야 하며, 최종 책임자가 자신임을 자각하는 성찰이 필요하다. 기술에 대한 의존이 아니라 인간의 판단과 통제가 중심이 될 때, AI 시대의 진정한 성과가 완성될 수 있다는 게 업계 전문가들의 공통된 견해다.
