기사 제공처 :
한국공공정책신문 / 등록기자: 김유리 [
기자에게 문의하기]
0 /
▲이규철/한국공공정책신문 칼럼니스트 ⓒ한국공공정책신문
[한국공공정책신문=김유리 기자] 설명 가능한 AI(XAI, Explainable Artificial Intelligence)란 AI의 의사결정 프로세스를 이해하기 쉽게 하기 위한 기술이나 기법을 말한다. AI가 어떻게 결과를 도출하고 있는지 명시함으로써 사용자나 개발자가 그 판단을 신뢰하고 적절하게 활용할 수 있도록 한다.
◇ XAI의 필요성
AI 시스템이 점점 더 많은 분야에서 이용되면서 그 판단 근거가 불분명한 ‘블랙박스’ 문제가 두드러지고 있다.
① 신뢰성 향상이다. AI가 어떻게 결정을 내렸는지 이해함으로써 그 결과에 대한 신뢰가 높아진다.
② 오류 검출이다. 판단 과정이 명확하면 AI의 오류나 바이어스를 검출하기 쉬워진다.
③ 규제 대응이다. 특히 의료나 금융 등의 분야에서는 AI의 결정 과정을 설명하는 것이 법적으로 요구될 수 있다.
◇ XAI의 주요 기술
설명 가능한 AI를 구현하기 위해서는 몇 가지 접근법과 기술이 사용된다.
① 모델 해석 기술이다. AI 모델이 어떻게 판단했는지 설명하기 위한 기술이다. 예컨대, 특성량의 중요도를 나타내는 ‘LIME’과 ‘SHAP’이 있다.
② 시각화 도구이다. AI의 내부 처리 및 판단 과정을 시각적으로 보여주는 도구이다. 이를 통해 사용자가 직관적으로 이해하기 쉬워진다.
③ 설명 생성 기술이다. AI가 생성하는 자연어에 대한 설명을 제공하는 기술이다. 이를 통해 비전문가도 AI의 판단을 이해하기 쉽다.
◇ XAI의 과제
① 해석의 한계다. 복잡한 모델이나 심층학습 모델로는 완전한 설명이 어려울 수 있다.
② 사용성 문제다. 제공되는 설명이 사용자가 이해하기 쉬운 것이 아니라면 실제 신뢰성 향상으로 이어지지 않는다.
③ 퍼포먼스와의 트레이드오프(trade-off)다. 높은 설명성을 가진 모델이 반드시 고성능이라고는 할 수 없으며, 퍼포먼스(performance)와 균형이 요구된다.
이규철 / 법학박사(상법)
∙ AI·GPT, SDGs&ESG 코치 및 강사
∙ 100세대학 크리에이터 및 칼럼니스트
∙ 생성AI와 챗GPT, SDGs·ESG경영전략,
글로벌 MBAtoCEO, 리더의 필승전략,
100세대학 행복디자인 매뉴얼 등 27권
∙ 일본(와세다대),중국(복단대·화동정법대)
삼성 Ai 갤럭시 S23 256GB ...
439,000원
삼성 Ai 갤럭시 S23 256GB S리퍼 공기계 기존 유심만 넣으면 바로 사용! (구성품: 단말기+유심핀+보호케이스+보호필름 / 12개월 무상보증) Re:think, 256GB, 팬텀 블랙
https://ads-partners.coupang.com/image1/ymmGBDMoJGQLdOf1yh07QtlN_OmfP6qm-ZoYF4lXkulIVyhL8JDVlfD2U4BSHJA6giBIowL7-j44mQKUHswHy4oi_imUTEbCY3ocFHYIDA5eEjE4vjXx0IjF_zNFRIH3KVbawLqIkd6pjeg6ozWSEKVv9SX-y0jjWWbSyygOPEWJJNBTs4UJyoSRCk3h3vXRNb6BxSlcGjVPCakjr6sr5oL5awUBb_ioFFQfDdxk5TEPeIo9Y6Fd26Xm7_jdceHFC1LODh_IISg4uPkUjji_CLfuw7-hbxvPWxBMaDVy5aVaqF4uER0M30BkndntfKeZlRMap44IQvo2vZK9bTT6yn61MW7SRpP5axZtMDY2erNdC_TYlGhoZ_VhjB1eyqJXpOanMMg2QK4782v9CJtBoFcK6GQ5OFZrW8XqhvNZ3MEwy2ojGCD7VFQVc_3X7BXcdG4w6dUjZ0GA1YkGFsu2t9KY5GwMxndGkiHZkO_DVYGAQTt2wxvBdLTTtA2rkecJR5JHkfi1CTjOyy-QOTJaZ9MWfKyScggR3ktBWP4roXcIrKGiNFu1LxylnA==
자세히보기
삼성전자 갤럭시 A37 자급제 SM-...
522,900원
삼성전자 갤럭시 A37 자급제 SM-A376N
https://ads-partners.coupang.com/image1/PyR3nQKJaN28_8QYPzJvDEQtU37IFAugQS9sRUwt3H9xqmEoCDfFPU4Td2u2JyXrZsna6D4ZOqYRXnwbotcvoaVwEFP54D2oBxiYtbypyXnWhHpZr_k0Q5zDQIjvTtS27b-qbgaX9FPvpjAUin_KZH7nFWYyljMRJUSi5U8fkMgix5fjP0XWM03mUFeobNnh_vyqKfUK2AbMRfLkhmozV9jtM_9KO4cBrOh1EcdCx2WgNR-vXyLH15cKFXo5C4OWoqpG9urU3H7RGhJjVl9siet-I_KNcDzGl8z3qf09kQtCofy6MUr3VNV7wYwB5H4Xjqi8uJJpKf23095mrBAbKupXshwQikD6410zTM-NZxkRaRq6LiAHb3Z5H0qfjNpJuSuM89d-7alY8SLA5tL5RX-wLMYFRuxDKtSP9vFMzXEJkrDW3_lY_zDdULYJ1uHGCNR9r-q-gBx6pT2vha9pT0xhOEhx8EJ8mCM04SC1I4tYoJx-aDmsu0Ydvcpkhw3rfbNTUijdmKA98p649nO3zowb
자세히보기
삼성전자 갤럭시 S26 자급제 SM-...
1,143,000원
삼성전자 갤럭시 S26 자급제 SM-S942N
https://ads-partners.coupang.com/image1/Qtn_QdOLjr9Ix_ebQk3s41jOgYgQB-CS8CY6C7tXu-ajfQ4hki-a1-p7Ip-OZpIqhAUAvR3I92ggp81ZsFVsSuPqn4kyDqxXOTkj4ovwrvAxMatym-Ry0Vov0Dc8MavCNvgqKcYkwFvKaGluu1pQQ7hzgYpngOwJt3fFkw3YMdXgO4ilj9z39LTnwzyXPV4pWIyP-J78hey24IFsYAWXJiOFxZLcgbR7Pi7sDYOcNAmnGDtr3Yl8T80IrJ8CCTlxWzMFY0FDYo5Im_ABkp2Nnfl-vmpOIOXIVQiUTjQC6pwOqB7nZXEAkeup4EUMVLBwrtRaHMrDBOQjyD2NOc-z755sblRQbBnyY2fAHfk5yrwOpv-DyiyQ9Gy_6NjZ5UiSbEPMS5zWN7GocVvoi7krxD86nD7ckTWHlEsxAyHgqbBu764gFqjhStjxU112mm4fND9aG4dukmVD-2akv-kMjcni6jpl5FYg7yCfQILiOLspyMEREaK0_EXv_yIHUDG4jHsU9lk576abiiOBLdTToCU=
자세히보기
삼성전자 Galaxy Z Fold8 ...
2,023,000원
삼성전자 Galaxy Z Fold8 자급제 SM-F971N
https://ads-partners.coupang.com/image1/PqIDnmqFrNJaFIYcPjHl7tHhVRDQq4KE39qwNl9v30EvQlFPShV-kE50ivVl45oISu5vd7sx8YqCgDRdYl3a_DskmGFDoqDAfMNo3sgg6LuyN80qWOoJJ7n7TMF_HoETB7gLn1JKB4MhjdHeAxIyx7POp5MJmOElKQrBhUCSvyTYqc2gZm6aZiFgjhq-bbAM_ogWyzfcvwFT16SpJLO09aeTC_XjGyDKzRhPwmQ8wzfxnE-WEzKkfI8oUTXB450sb08FMIMKUmxdD2cW5I8UOi_tJ6Ui4uhie4luAuaNdD0QSZikIS6efvPcVAXO59DTUGjhQjl3hJ6n1toJK3JDGrj2uW7X80z6AWCSikY8-ID_BS3Px6iAfTVgmvo0WC4Y4hjQjsrBSRXDH7sYxr45LJY_A306v3p1kksLQZ3T7VqXluv4tNZGX1vE0tzBvb950Y5Q5vmxHKkhCGubp4k72K8CG5gv69W96DwW1aANSwSOwV5vNVgCc-HuUaAfCDXuwVBrWjZiIo6PkqoUlGK3jg==
자세히보기
삼성전자 갤럭시 탭 S12 Ultra...
1,869,660원
삼성전자 갤럭시 탭 S12 Ultra 태블릿PC SM-X940NZAAKOO, 그레이, 256GB, Wi-Fi
https://ads-partners.coupang.com/image1/89YbfWRbK1BZcWwO85KfjEMYrLe0ucy5ttvPf8UXFPKp58GO0kIkvaPngj8UDb9or8jlRa424185J3kL8TiU0iFkafLNPDFt1WkOlg6psiizPXLYOllwvriAHfJvBh01EH8jSvbwG5aFBtJkepmtOES8ctPVnQo2eTqrrZM51BdXykBxcEFQhq3riEZFiHCdxIu2-kiwPKsvqfqYcdLdWFBqq_ptYd3N1_4Yp1jUF6A_3sUk-6BXoYRMeN-oGb1tBi3nClStwJEyw08athci1Xfms9M0yGI_bLAQpiTBDJVU3MTxWKf9BuoGnkna3uL6kYceZPWu8ijCe9K2HyEYUllGvYjs6yj8RwYV7H7zDmQ1DmUhS2Fzt81FRfrzo25a1ZOSi8RAARF6pPRWqbOj5xMF39N5yNdUV60B8cXWnXnGqVdAitQ7WnbYpCoz_beTnfmVhgXlQLS_P-Vr6-2JtE1jYcTyN-YuYcqpea7TP8TAT_ah4FtZcBRI3Bf0Cv1W6dgOovT76w==
자세히보기
삼성전자 갤럭시 A16 4G 스마트폰...
229,320원
삼성전자 갤럭시 A16 4G 스마트폰 4GB 아랍어 버전, 그린, 128GB
https://ads-partners.coupang.com/image1/1wtND97NKUgopJ4k17iDZZuPMbVTvFaaIDeuEeIl7tAK0QY7ysWeypngYgbmsUcua1aTZtd2BMj1sIJmgVd2q6DrZS4ZkfV7ZfUfyn-v13iHU4lMDSnaqIBCo_9ksKDK09jJx_8jmYFSSUjHED67-piZR5NOY56RNGNQUs9CLr-RAUK0ws-KIwSqsz1kZux6FEp1BGo2ngt3gLu3BW5I7fExPnSGMBns2Z1l3CZ1D2c5CQqO7Av5RBqEwije6RN0Da97i_HJlnHWHSjXKX4diEwanfKjb70_niXBra6Bv9AGRtmxdi7fhh3Zsqt_8bb3a5YZhnIcNgsb3Fxes6Twmw_Es89B701fLxOktJ2pmOcIockn8DdNUn3iLpibFBB0mZ8mTVB8oroaRJZoog0IeebFIuL_ZN2HwZnX82OCcVVYhP5jCYUXtlv3W6Gs-O6NqwmxnTN7S6XUeCd0NwQwjy857BBGFphuysYDBrA3KIa3tlwysHJOrZjpa00mlwxQNI5G4DY8Fd605qFKt3rc5cCuRhXeTK5s
자세히보기
삼성전자 갤럭시 A16 4G 스마트폰...
229,320원
삼성전자 갤럭시 A16 4G 스마트폰 4GB 아랍어 버전, 라이트 그레이, 128GB
https://ads-partners.coupang.com/image1/hba1fznywCb86FrfhRn1BYtHx8zztXRsfFllS37O1HUfsMfXRgRpBKWgKETs7Eu8HMX5Cn3qqqh2oTFu-X4cIBlH86ofMlW9wMVKgCAAcxlcZ4Lvy5QXJRupFAbEldOJqvhYe5wY04JFWk_Kr_BYFfjwke3wKCodbRoMvJ1tceppLhiEujrFd8vFCxUsah7JOXIsT0EC1senqfnf5YNF04Vq_ZvaKqVKeNRu8vp4YWDFxGzCNwiwIA8K7EePKkPFKmkaYXr4Or0wY9zLL_AqEqoP-hm5TNA-GU4s6KKLQJYcfV1d4A0LBONpNPBhZpUqJokiY2Au5-wcBEteNODTdigWWXerrPXoXSYfPTDkDGq4odsgzIXncInhXKklko5CUPQQ_9HXSBkDDBDzSdekPRxz7cWYYCs2l8EMLJyX2stLNNqAEtuhJawTTYDL_jtHY39BAQCjSwAjELU5OQP3pE9oTXeoXjoaD52EzVuRPRRgTMDCGM1HO2qnaK3FPDE9XLRSgDQPzafKmoOzDSy9-J2Kb1DxSKM865c=
자세히보기
삼성전자 갤럭시 A18 자급제 SM-...
387,180원
삼성전자 갤럭시 A18 자급제 SM-A185N
https://ads-partners.coupang.com/image1/TmOYC8JTgsyO5rQgTunOW8G3pIfjmhPLfiMTJT-Z5hH2C1gQPdKswnkRAGFYq7ZOqtvHuk5M27KES1OLv6bE94d24r3LGEFgE2ymKWiz2cfLskUhBudp887tBNn-ie3consqf3xl0dqbplWwQmG9gQKucDCCNt-HHzudyWABoXI2gttMIkEuOE51wk8GIBWy4rD9JExiq5ud1YlMR9WLOE0KQto77zLJb_0FsM7BGFQHShjC2EMbOCpRiyoUuG6Z6XOP8Mosa7CyzVUKdTrxEOgHtek3io4GZz8Fp9tzGmQR-Fd11VWiafbxRhoUIuYeuP5jd5Ps_37C_qOd13nHATqLrKM8tk0N-0MybjlW_Jhs4zgSsqgQRbrztsC-t-dvnuTt_cZp3r1e13wU2XodME1rou8zQwP-BxZcHHV215Ahki4TYeLFbqeEwx2EhqxuPwbVX7lLAMwi-WIGXF7k2YQ0OyEHY5ZKR3RZ-3UWWwti3J6lVq5E1auvRzjTVrr7qcXycm0x51kzGWh12-A8EQTf2A==
자세히보기
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
