기사 제공처 :
한국공공정책신문 / 등록기자: 김유리 [
기자에게 문의하기]
0 /
▲이규철/한국공공정책신문 칼럼니스트 ⓒ한국공공정책신문
[한국공공정책신문=김유리 기자] 설명 가능한 AI(XAI, Explainable Artificial Intelligence)란 AI의 의사결정 프로세스를 이해하기 쉽게 하기 위한 기술이나 기법을 말한다. AI가 어떻게 결과를 도출하고 있는지 명시함으로써 사용자나 개발자가 그 판단을 신뢰하고 적절하게 활용할 수 있도록 한다.
◇ XAI의 필요성
AI 시스템이 점점 더 많은 분야에서 이용되면서 그 판단 근거가 불분명한 ‘블랙박스’ 문제가 두드러지고 있다.
① 신뢰성 향상이다. AI가 어떻게 결정을 내렸는지 이해함으로써 그 결과에 대한 신뢰가 높아진다.
② 오류 검출이다. 판단 과정이 명확하면 AI의 오류나 바이어스를 검출하기 쉬워진다.
③ 규제 대응이다. 특히 의료나 금융 등의 분야에서는 AI의 결정 과정을 설명하는 것이 법적으로 요구될 수 있다.
◇ XAI의 주요 기술
설명 가능한 AI를 구현하기 위해서는 몇 가지 접근법과 기술이 사용된다.
① 모델 해석 기술이다. AI 모델이 어떻게 판단했는지 설명하기 위한 기술이다. 예컨대, 특성량의 중요도를 나타내는 ‘LIME’과 ‘SHAP’이 있다.
② 시각화 도구이다. AI의 내부 처리 및 판단 과정을 시각적으로 보여주는 도구이다. 이를 통해 사용자가 직관적으로 이해하기 쉬워진다.
③ 설명 생성 기술이다. AI가 생성하는 자연어에 대한 설명을 제공하는 기술이다. 이를 통해 비전문가도 AI의 판단을 이해하기 쉽다.
◇ XAI의 과제
① 해석의 한계다. 복잡한 모델이나 심층학습 모델로는 완전한 설명이 어려울 수 있다.
② 사용성 문제다. 제공되는 설명이 사용자가 이해하기 쉬운 것이 아니라면 실제 신뢰성 향상으로 이어지지 않는다.
③ 퍼포먼스와의 트레이드오프(trade-off)다. 높은 설명성을 가진 모델이 반드시 고성능이라고는 할 수 없으며, 퍼포먼스(performance)와 균형이 요구된다.
이규철 / 법학박사(상법)
∙ AI·GPT, SDGs&ESG 코치 및 강사
∙ 100세대학 크리에이터 및 칼럼니스트
∙ 생성AI와 챗GPT, SDGs·ESG경영전략,
글로벌 MBAtoCEO, 리더의 필승전략,
100세대학 행복디자인 매뉴얼 등 27권
∙ 일본(와세다대),중국(복단대·화동정법대)
LG 그램 14 코어i5 FHD 윈도...
898,000원
LG 그램 14 코어i5 FHD 윈도우11 화이트 (코어i5-1135G7/16G/SSD512G 듀얼 [SSD256G + SSD256G]/14" IPS FHD/윈11), GRAM15, WIN11 Home, 16GB, 512GB, 화이트
https://ads-partners.coupang.com/image1/YLhgA7nDk1eVHa5tYMKfGdVXofhVahHFahJj-aPLwpVv-SwKZnZraPOUMhcRDMyINw-rxUwRClaRIRvrpfCLC7lZGHNYK8-C-w_Jt0nbFueln55jcJ2RXLY9zZ3bpwemNXBzYOyE9B1wV5CjD2W9tDL7IIgvVy5Yy9WoMwwySQX7Y2M3DIDAxL3SXBIyklQbIxGVsM0MZp8dzmkHb83D5yYR9GKNj365IVDeE4gsRpcdAru4RoAYvYXDhsVoQmRGYnmDfNTPzGOjZuvpPIC4Un0-fI-eIK3hiiMDY6E45Mh_zK6JQhuVRzKZEGQoQjM78DKW43QS02Ud2b5kkBqVi-ajZ1RfpIYBvSRpF2IiDxDdfjvejorkug-wIRNNj7arpCXwoeM-KNzi1Y7ZED0aHd9L_SxWGzp7Td1L9dTtZG3rmahPwbflGVPeZUGGoHxlQ_VB0cSQ2wLKBiS3Y5L-Op8qoLeKqRrYpy-_Z3mf_gU2QCTq1pOcKoM4vk3fS6NsiChbsLcsMTLYF-u0IxuUaj10SAXAsxqYYC3AM8UTnI2i_93Q-VBNeApvQHadJR2UX3vHYJQ48pB--31TawdVUen52Q==
자세히보기
전시몰닷컴 그램15 코어i7 윈도우1...
1,199,000원
전시몰닷컴 그램15 코어i7 윈도우11 설치완료, 화이트, 15ZB95N-i7-NP, 512GB, 16GB, WIN11 Pro
https://ads-partners.coupang.com/image1/W5-MyW7wgbIZYk5RW_9psgch5mob8LM6bf3pp16nPazTGPuDnOeIo7049h1Rq-5ozPV3K1AhMUQThFaPeBJMoMN6rZ7rE_stpBAtanTaOXpspyHWQL_5BY3mVhQ9SCd94FRAyUWyvhojB4cGo0ZWRtUtkNcXpL5V5y7IhabLUsdRGFm0NKI0C3rHtBWzjGXQV2WR2MN35RnpbfxDgnpMJgg6EcmhKWxhh5J6RPohSkmaisIIyQrl6LXpVj4cu74yqjDOWxVZyIh2HKLMmWArNMh2e4VJakL4BYGeZ5dy1ntyTgpy7Q6k9qZPuUUJtWww02LM-JGjHBIaDv6RWuwjLtmT3eVs8_BGozD4fQnLAOnHPk6DUaJmwUbOTQ78lueTn5h_FL-Bwn8N1-UW8sNqQIQ2oiGqELO1QeB2MJwwFMEINGKzSJMWca-EzpOr-_znSkIWRzhGamTQCln4UAleC6q3b4uGXnCdTelu0AD7AU-YJyOhahl44PKNdiI-y06C2Z6qpEKqZz23qIBDkgSGhHVvamkxbnVHZuRUYDJ2MlVeRlJ_q96rAMlMVT1iddteFhAJQrIMjmVZs1LCI_h1ap6T_5sk
자세히보기
노트북 15.6인치 대화면 인텔 고성...
570,000원
노트북 15.6인치 대화면 인텔 고성능 프로세서 RAM SSD 탑재 오피스 업무용, JQ, WIN11 Home, 16GB, 1024GB, 회색
https://ads-partners.coupang.com/image1/1R2LVjANZUHmerGB1UnUK_sJuGo4k9VDbZu2FTiW9M7_tGczmQX48Yz9bwX8tTExhZNXZpWlCxDqKfVDNdZw4fQpmOcGEmQdlX5G8vP6oui4cECKVqyEsaWU8rSHvXQnCV8vRx_D-lVjgji32G0D9Se0_J6DWLErdSgZhaBknYtgR-o5pGZlYZIY8u7cBY6kinj70ixNmQ4qsD2nVgSDmw3qPuKdUdzC_drXgQgEZIarRRT2HtkCJnHx5V9UEbfKiLrMnmvyPtwV81bpPrRCt-Oe0PmIUXFlqDuM-RW5f_bo4X8nglHpARJPV1og3ky8x_ZdBXTktIj5O3_kKQYVZA9MDgd2Qnu6D7ILPrsHmAnrCupxw5tk3UAd35f_G_dOaTx8rpLmUJ2IsSdrniN9xy-i2Uh-ihxRoRfgywTlypSzZI6YwCrSPapnHslZu_hqW7i3sygijNoMbmEyOtj-KUy3IThPvLSl9rPtznZ9ac3gxAWERqD7GssSUY6puNAlnNg10GjsEWT2EEv5nzuHOXEq4nRU1-ptVEU_MUDkB4So1_gWGid1v8HC4z6HUGDEhA1r3-WRkmDkQ0vHb8r_-QAAu-0=
자세히보기
BIRDPLAY 노트북 15.6인치 ...
569,900원
BIRDPLAY 노트북 15.6인치 윈도우11 사무 학생용 180도 힌지 휴대 가성비 노트북, JA, WIN11 Home, 8GB, 256GB, 실버
https://ads-partners.coupang.com/image1/B0xV9rsgHHRl1eRIBx7L6VUFHvQRV-RBtvFAJP6WFbdchyRhQ3q1KW-znC48OKN06rCCRw0AcrIayd1o9E3LEWIAaNxWf-LjrI3olq032shziTb4VKVlMGkAs7vChNZYMJSF5uu1CtsN1-wikrJo54c4ijfacocPi-ebU3LFB-0ym9KlFM06F7knC5uU5Hud3yKg44RP4jxmM0c7N8emldF3sdBVIjl_TYFEiSF2xNFme7vYPDY_pKu0VDI6GSIG9LNZPsmJC4Lk0umcpiaFggtzsyugEYDGd11kIqOe1UURnX0UkuwQ9deeCAkX90NGcR8Oyu-GZsjN-PIR76UXC-_NjmQ2GZkN0Phmi3MsF2_RHFC3KBoJg1ARLNc4wdK3CW0gNLvtpA4hDZwV2Yqy9wPB99-G1ZdxaJO-iWFIEfa405J1flz6b3s6qPx6CgBCW_Gqs170dbIazUWsDcnIHIM1_-LISug8C-OkkgHbT_ORmcvHTRrT3D5wnLkh4gu2p81QHfVtNKuCnil_hE2EOYnUsm6tWaKG2bzc4crHAOhCRTXwFf9BvhaDMUOlz0HwDE1z3efgKsyalO0K9BwMat94XuY=
자세히보기
삼성 노트북/NT200B5C/NT37...
180,000원
삼성 노트북/NT200B5C/NT371B5J /I5 3320M 4G SSD128G/15.6인치 WIN10 Pro
https://ads-partners.coupang.com/image1/tOTUEHE4UVktzmKxtNPpJzs8P-j6yytX2JNVghI1V06t-SVj4ghVh644YdNE8NRcAJnJKMpclVj7ZiaNmQcyoNRM24TdvGjfNH32_xrmXGyo-oOmD7Dra4yBfaHSuCucVBpnd-P1SZNzvECESxWHdKyhQgsfhZtUC81vduR3YoG0bpjFpjLbBdImYK3IfT0T4zgNuwka5OdEmf7LczAw4gw4sPnfI-ePPwmQaSLeZe7EihiL9RlXCSherT045UKyTxy2hQ4e-zGftRS0HFOYUu6_v8MzftKZ4SI8IisjdGP2TWfKnKWDips6eFzi-E69ZiZOKcEfDPf6ShWl4TooMxd8h0fdVcEYw-MDsu4zdYxlvAWO6SGIbQdLXtDEYjYnpmNOnk1iNDm94tBwIk4_6tx97s4QYid5Q16EXXv8e5vNk-tye7NLquIHiOcWHVqbggNCwDljHrSp-nMPk7KSsrw81wot_y7oQPZ7yvDSD6fMR1cMt3vaeXMgYWWB4VNSySiGrI1--ERFDie5rez6e6bgDOemY8AbiEVr8xjPut6JwQxiW1Hrf8JhSYA7-CcQPBQE341JUqxC7T9ymruDeWs_3wzNRmYj5ZBCyhwv
자세히보기
NT371B5L i5 8G SSD12...
203,390원
NT371B5L i5 8G SSD128 정품윈도우10 탑재
https://ads-partners.coupang.com/image1/USIqk7YlTEL1UKqtUd_cd7PacZyz6BJGy65dhM-w39TULbJFId3AfQHSUMqzTmlByUpW67hhWM0aqU7okR1ggSESn_ADxOct2nWhDPyG9U24c4r5zoJDFTKQZbfq51y2Fxk2-o5IH_wjMOztIOY98NBQRG5a5zH-14O3BCBi-CcuGE10dKFgenOrUpflaAqVSd8TT3HbNtDqinFLDM21J7C_jX5J47ItCvQTw5YesbXKwwg9xVkMMgkfJpTRnu3-rz0oj0R5oP5d64cMGw-WVIoKbUSlOOSnyPwKinsV6VsJWQf74EVXFhE36h98FSzdYFYb0Z6g_ut8rAld53Pn7YZIxUkRJmxrv8eTbjj9sJEXRDuQD9Umn41bCDu8PCOahCAmW0xqGPrCzTrsyle1r_pr-642vyjw3A2eMXms9jst5I5c-rkGXv24vStIH6mL2aaed9xzQjJewGXWHlXLmCVZ5CWG5c4AJ88WS82rgeLz31mcMvaNQM8oYqnDtceQdyqiVNxZtPWdfSek9L9uboGOakwL5VCbXbgjDWANfGIkZ5kNDdatv_sYXGzZyXm5MN1CYN5-QndpMrmGYhwZMBQGnAmkqsCAXhAZf2U6-EMc7Pt9IDe6nDCDBA==
자세히보기
LG전자 2026 그램북 AI 14 ...
1,305,000원
LG전자 2026 그램북 AI 14 코어5 코어 시리즈3
https://ads-partners.coupang.com/image1/n4Zj96iz1S_NRF5tn1s7Alx73tWNSPZZ6ZkL_IbRDHN1ts8ZBrSasLJkm8j2JIxy1_LXHDRDQN3UcUu90O0tMY9p9HkiBU1pVC0VK_8LYvZNivPaWiV7rQT5-n5AZDthqSFoAfFCsYfxC4jN4gBZ9eIG7xRmjsGmXIO33ve58TRcM7Lkrp1e7EmZG6QwA37ErDp6660-ulTaC1d54S8cWVLXpROe-nS_aXmciJosGebgqg1SUVDCL1LAl7HfRtGVQXAwduKuLwojMPDhMmHSavFHj-nUPDZ-IzPrhKV3fGvmupnRupWMXwd6wnx7HarrGQtFr0IVcNLKDMMCYLDKKCcJ6qMYl6nGAAXD5fr7UJ17NFBYVAo-2x6Y6GHe536lrP-RmycYP58WyMaInAbYuCS8JO79BwA-MdGRyyn3KLbbv16_dOHCVsk_MpB3KfnBCtfL4xiio1bJ3CR9SzSHHhIdrj4ApA1S1Yzn6ATEKUxUDHI4au9IiPeV4PFCW0JCLxQbJMvhbh2T3q_B4wmXMDN9DIM_XvvNq653tdtvsQphreu0_w5vWevh6h1mwMilxXn0LlBC6tLBGOFZuyM=
자세히보기
LG 울트라PC 15U560 6세대 ...
298,000원
LG 울트라PC 15U560 6세대 i5 지포스940M 15.6인치 윈도우10
https://ads-partners.coupang.com/image1/ZCSsgDrXpdph_ERIZOUIv9hiJT3BtkxSBt0nMhqGt4VzSDEoi9cfThcchucCqwO57iTeeWfY4nquxsF8aBtA6-YPrbuh1pl1JtqoS22hsWIr93ArPLdrEVEnSq0NU-ibeVl0AdbCQViS1YDJ00S4HZlyF9Rc6kBdJC-CxU6Q9twWAOSIK6_WTIONXl9PPDbTDKBM-ixzPlWI56RvzAZ_06s1tHABNDbwSoMNbqmpjvQOHTieDEvImr2ROXVD1_U1nNaQQ3FwMKzxzK4NncduDugoq_pl2s89e2cDJB-oHQvW8r8zqkxN0GmFqKb1hmnd_4gnd1NXGWMdD7eKKO0gUM3_x2jJw0RyLORtejqlaAcsrj16FCXvIJ11UEu8vMe1aa1mge5NWjpAOJAW6Ds_HzkBRQS9kXcB-4fIjMByy8VQUgFfnFNFNnHD8Eq1xvHHroNPhcaNxbuYo031vNvE2z_g12uW9rR0XuUAFZSVzoS0fQnWoVylGEipVRWtZrry6cJMK0UzWw0OWRfALJpQkGqiFrzFq-VfOFWHuwcPLdggmZ8cfrRbriaSR5ZGxo6xAjBt6WtDIapFNys_2PV61oE5-loEfTwX4MNGlhrH
자세히보기
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
