XAI

XAI ,설명 가능한 AI(Explainable AI)?

• 설명 : 어떤 대상에 대해 자세히 이야기하는 것 
  
• AI     : 기계로부터 만들어진 지능
  

어떤 대상을 자세히 이야기하는 기계로 부터 만들어진 지능?  (-_-)a

미디어에서 AI에 대한 기사, 뉴스, 광고 등을 많이 보고 있는데요

      

그런데 설명가능한 XAI는 무엇일까요?

 - 심지어 요세 신기술을 예기 할때  AICBM(AI, IoT, Cloud, Bigdata, Mobile) 이라고 하죠.

1. 개념도 

 사용자에게 인공지능의 최공 결과가 올바른지 결과물에 대한 과정을 근거로 제공하는 알려주는 AI 모델입니다. 

즉 왜 그런 판단을 했는지, 구체적인 정보를 제공합니다.

기존 : 이 사진 고양이 임

XAI  : 털있고, 수염있고, 발톱있고, 기타등등

          판단해보니 고양이임

음 AI 결과를 못믿는 사람들을 위한 건가?  어떻게 활용 될까요?

관련 기사들을 찾아 봤습니다.

2. 설명가능한 AI 관련 기사

설명   가능한   AI ' 심머신(simMachines)'   일본  공급  시작

"설명 가능한 AI? 정확성 보장 어렵다" 구글 연구 책임자

[IT 신트렌드] 설명 가능한 AI가 주는 선물/추형석 소프트웨어정책연구소 선임연구원

결과만 알려주는 AI 넘어···“왜”까지 설명해주는 XAI(설명가능 인공지능) 뜬다

• 알고리즘에 의한 ‘자동화된 불평등’ 해소 
• 범죄 위험성 판단, 인사 평가, 군사작전, 의료 분야 등 잘못된 AI의 판단에 의하여 
• 불완전하고 불공정할 수 있는 일반적인 알고리즘의 문제를 해결하고 보완할 수 있는 한 수단에 사용

AI 판단의 품질?을 확보하기 위한 방안이라고 생각됩니다.