[데이터 관련 기사]

"AI 분석 어떻게 믿냐고 물으면? 기업들이 결과 설명할 수 있어야"

세스 도브린 IBM 부사장

"기업이 '신뢰할 수 있는 인공지능(Trusted AI)'을 운용하려면 어떻게 해야 할까요? "

=> AI에 편견이 있지 않은지, 무엇을 하고 있는지 이해하고 어떻게 결과를 도출하는지까지 지속적인 모니터링이 필요"

 

도브린 부사장은 "신뢰할 수 있는 AI란 '투명하게 검증할 수 있느냐' 하는 의미"라며 "기업들이 AI 모델을 알고(know), 신뢰하고(trust), 사용(use)할 수 있어야 한다"고 말했다. AI가 결과 도출에 어떤 데이터를 사용했는지 추적할 수 있고 변화를 문서로 관리할 수 있어야 AI 모델을 제대로 아는 것이고, AI 모델을 검증하기 위한 규칙들을 자동화된 방식으로 집행할 수 있어야 신뢰성이 구축된다