● 생성형 AI기술이 급속도로 발전하며 금융업계에도 AI활용이 일반화되고 있는 가운데, 기술의 발전과 정부·금융당국의 규제만으로는 AI 관련 리스크를 완전히 대비할 수 없어 리스크를 세분화해 인식하고 대비할 필요

- 미국, EU, 한국 등 주요국은 AI 규제법률을 제정하거나 유관기관을 확정하고 보안 가이드라인을 발표하고 있으며, 주로 개인정보 보호와 차별금지 등에 집중

● 금융업과 연관성이 높은 리스크를 ①데이터 관련 리스크, ②산출물 관련 리스크, ③시장 변동성 확대 리스크의 3가지로 분류

- (① 데이터 관련 리스크) AI 시스템의 인풋이 되는 데이터 관리와 관련해 개인정보 유출 등 프라이버시 문제 뿐 아니라 유입 데이터가 보편·공정성을 잃는 편향(bias)이나 악의적으로 아웃풋을 조작하기 위한 데이터 오염(poisoning) 등의 위험이 높음

- (② 산출물 관련 리스크) 인풋 데이터의 문제가 없더라도 생성형 AI의 내재적 특성상 주어진 질문에 대해 사실이 아니나 그럴듯한 답변을 제시하는 환각(Hallucination)현상이 발생해 잘못된 산출물(아웃풋)을 생성할 가능성

- (③ 시장 변동성 확대 리스크) AI시스템의 인풋(데이터)과 아웃풋(산출물)의 문제가 없더라도 다수의 금융기관이 동일·유사한 AI모델을 활용해 금융시장에 참여하면 주어진 뉴스에 동일한 포지션을 취하는 투자 규모가 확대되어 버블·버스트 사이클이 심화될 수 있음

● AI를 적극 도입해 업무혁신을 이루고 효율성을 향상시키는 동시에, AI의 확산이 초래할 수 있는 리스크를 인식, 이해하고 자체적인 대비·대응방안을 마련할 필요

- 내부 데이터의 유출, 악용방지 뿐 아니라 외부의 AI모델과 트레이닝 데이터를 활용할 때에도 금융기관의 목적과 상황에 적합하고 편향이나 오염의 가능성이 없는지 항시 점검

- 생성형 AI를 중요한 업무에 높은 빈도로 투입할수록 결과물의 팩트체킹을 위한 인간의 점검빈도를 높이거나 별도의 외부 서비스를 활용하는 등 환각 현상에 대비

- 빅데이터 활용과 적시성 등 AI·알고리즘 트레이딩의 장점을 수용해 시장 대응력을 개선하는 한편, AI 트레이딩의 보편화가 초래할 수 있는 시장의 동조화와 변동성 확대에 대비