뉴시스

IBM, AI 검증하는 개방형 플랫폼 'AI 오픈 스케일' 공개

입력 2018.10.18. 19:22 댓글 0개

【서울=뉴시스】이국현 기자 = 은행이 대출 심사에서 인공지능(AI)을 활용할 수 있는 모델을 만들고, 자동 승인하도록 했다. 하지만 AI가 편견 없이 어떤 데이터가 들어오더라도 공정하게 결론을 냈는지 확신할 수 있을까. 또 대출 심사의 승인과 거부를 공정하게 결정했는가를 믿을 수 있을까.

한국IBM은 18일 여의도에서 기자간담회를 갖고, 기업에서 사용하고 있는 AI모델을 사용자와 개발자가 직접 검증할 수 있는 개방형 플랫폼 'AI 오픈 스케일(AI OpenScale)'을 업계 최초로 선보였다. AI 오픈 스케일은 올해 말 IBM 클라우드와 IBM 클라우드 프라이빗을 통해 제공될 예정이다.

AI오픈 스케일을 이용하면 기업은 AI모델이 적용된 시스템이나 운용 환경에 관계 없이 AI가 도출해낸 의사결정 과정을 정확하게 이해하고, 투명하게 관리할 수 있다. 또 AI의 편향성을 탐지해 신속하게 대응할 수도 있다. 개인정보보호규정(GDPR)과 같은 법률을 준수할 수 있도록 지원하는 기능도 갖췄다.

최안나 한국IBM 와슨사업부 기술영업팀장은 "기업들은 AI가 도움이 된다고 확신하지만 업무에 적용하려면 벽에 부딪혀 왔다"며 "예컨대 보험 청구 심사 자동화나 대출 자동 승인을 비즈니스에 적용하려면 믿을 수 있는 지, 문제가 없는 지, 정확한 지에 대한 확신이 없다. AI는 아직 블랙박스이기 때문에 업무에 이용되는데 장애가 있다"고 지적했다.

실제 IBM 기업가치연구소가 최근 전세계 5000명의 기업 임원을 대상으로 실시한 조사 결과에 따르면 응답 기업 82%가 AI 도입을 검토하고 있는 것으로 나타났다.

하지만 도입 장애 요인으로 63%가 "AI를 확실하게 운용할 수 있는 내부 인력이 부족하다"고 답했고, 60%는 "AI에 활용되는 데이터를 신뢰할 수 없고, 기업 내부 및 외부의 규제를 파악하지 못하는 우려가 있다"는 의견을 보였다.

최 팀장은 "AI가 왜곡된 결과를 내보내진 않는지, 모델이 왜 그런 결정을 하게 됐는지를 설명하는 기술을 내장하고 있다. 또 AI모델을 평가할 수 있는 시스템도 있다"며 "AI 모델을 평가하고, 해석하고, 지속적으로 고도화하고, 적용될 수 있도록 했다. 아울러 모든 사용자가 함께 볼 수 있도록 하는 환경은 만들었다"고 설명했다.

특히 IBM은 AI 설계에 사용되는 복잡한 심층신경망을 자동으로 구축하는 '뉴넷S' 신경망 합성 엔진을 연내에 AI오픈 스케일 내에 제공할 계획이다. 기업은 자체 기술에 의존하지 않고도 AI 운용을 뒷받침하는 AI를 보유함으로써 신속하게 AI를 도입하고, 운용할 수 있다. 뉴넷S는 오픈스케일의 베타 버전으로 제공된다.

데이비드 케니 IBM 코그너티브 솔루션 담당 수석부사장은 "기업의 AI도입을 앞당기려면 모든 AI를 한 곳에서 운용할 수 있어야 한다. IBM은 고객이 머신러닝에서 개발한 AI 애플리케이션을 운용할 수 있도록 지원하는 동시에 투명하고 손십게 관리할 수 있도록 했다"며 "기업이 AI를 신뢰하고 적용분야를 확장할 수 있을 때 AI경제를 구현할 수 있다"고 밝혔다.

lgh@newsis.com

<저작권자ⓒ 공감언론 뉴시스통신사. 무단전재-재배포 금지.>

# 이건어때요?
댓글0
0/300