기사 제공처 :
한국공공정책신문 / 등록기자: 김유리 [
기자에게 문의하기]
0 /
▲이규철/한국공공정책신문 칼럼니스트 ⓒ한국공공정책신문
[한국공공정책신문=김유리 기자] 설명 가능한 AI(XAI, Explainable Artificial Intelligence)란 AI의 의사결정 프로세스를 이해하기 쉽게 하기 위한 기술이나 기법을 말한다. AI가 어떻게 결과를 도출하고 있는지 명시함으로써 사용자나 개발자가 그 판단을 신뢰하고 적절하게 활용할 수 있도록 한다.
◇ XAI의 필요성
AI 시스템이 점점 더 많은 분야에서 이용되면서 그 판단 근거가 불분명한 ‘블랙박스’ 문제가 두드러지고 있다.
① 신뢰성 향상이다. AI가 어떻게 결정을 내렸는지 이해함으로써 그 결과에 대한 신뢰가 높아진다.
② 오류 검출이다. 판단 과정이 명확하면 AI의 오류나 바이어스를 검출하기 쉬워진다.
③ 규제 대응이다. 특히 의료나 금융 등의 분야에서는 AI의 결정 과정을 설명하는 것이 법적으로 요구될 수 있다.
◇ XAI의 주요 기술
설명 가능한 AI를 구현하기 위해서는 몇 가지 접근법과 기술이 사용된다.
① 모델 해석 기술이다. AI 모델이 어떻게 판단했는지 설명하기 위한 기술이다. 예컨대, 특성량의 중요도를 나타내는 ‘LIME’과 ‘SHAP’이 있다.
② 시각화 도구이다. AI의 내부 처리 및 판단 과정을 시각적으로 보여주는 도구이다. 이를 통해 사용자가 직관적으로 이해하기 쉬워진다.
③ 설명 생성 기술이다. AI가 생성하는 자연어에 대한 설명을 제공하는 기술이다. 이를 통해 비전문가도 AI의 판단을 이해하기 쉽다.
◇ XAI의 과제
① 해석의 한계다. 복잡한 모델이나 심층학습 모델로는 완전한 설명이 어려울 수 있다.
② 사용성 문제다. 제공되는 설명이 사용자가 이해하기 쉬운 것이 아니라면 실제 신뢰성 향상으로 이어지지 않는다.
③ 퍼포먼스와의 트레이드오프(trade-off)다. 높은 설명성을 가진 모델이 반드시 고성능이라고는 할 수 없으며, 퍼포먼스(performance)와 균형이 요구된다.
이규철 / 법학박사(상법)
∙ AI·GPT, SDGs&ESG 코치 및 강사
∙ 100세대학 크리에이터 및 칼럼니스트
∙ 생성AI와 챗GPT, SDGs·ESG경영전략,
글로벌 MBAtoCEO, 리더의 필승전략,
100세대학 행복디자인 매뉴얼 등 27권
∙ 일본(와세다대),중국(복단대·화동정법대)
일소 노 트러블럼 필링 스왑 8p, ...
11,400원
일소 노 트러블럼 필링 스왑 8p, 32g, 1개
https://ads-partners.coupang.com/image1/Yvy2eebPyXEp3iJxYooJXCS66oWrNHqtQJsO97v-Qhg8XAM-Z7aOaHeLBxS-O6TKidZ-FzIW-KhnRfTCNDXf5Ekxcj5iVUfjI6Z-wGhnAjWUtwxeQyrQidua3e2PW8s3cqI7Sq-FVfjtMfA16fXeREd1xhAE3_V3qIVJm5RSHE81LSuXVM1_crx64gpdJqCuI1vcD2VmDcuPwVUjKtElrjE6qkUEKxU3wDPNdlg59vhSj6E2XCQQn7DsfdGC_aCzv-SddVJO3Y656YKHVlN9z33BAC0Y3SWsG1vzwuYOxGkoNZs2Od2dEBFZsrqCsBlUZ0JBge35y52_Bvhog7N7XyhuJQr279esuRwYJ7C93lJ-oO1hKSuyB3OnnOGW9qW6n5LJbKoJSFzxb3iSsDNZeMQNAGJ-a3YhnhnUfWBLI0K5fQllQgR_CdyojEMeLtdhNkA7FV3-nFjzF4jd7l1Ta-EbFxr4U202RUuCcD0mosYbdybCMZKur0P63ShSj-_zbi8oddykA-Q=
자세히보기
온더브이 V라인 페이스 라인케어 밴드...
10,900원
온더브이 V라인 페이스 라인케어 밴드
https://ads-partners.coupang.com/image1/WO6iUJVTcLJs3LRoWIrRcnMhIz5KjDEB0BaO_cTfIIgbdBs974XNzFdhtwD47INdAwokur5u9offwUmMVoD4ZR7x48dy16sJ9GhIkPLil75i87epsvAs5Z-vEGYCcMoRkxhWPQYYkvtC_FS6I5JzFnv_GTBm4hDUFjTskB0X2VixkAxsfEM1oQimmJUsWERT_fVIVMd2J7zdps321TXehBniM0x_4N1Mn-lqzsCA8r46EUy9GOB-AML3xbUsEfiMVkaFW252HFNZfZ3xQzBi3PBsDJ0prenSTInA6vBJ-gnwTadQUSfVy5-A_krAoaLy8P_sDFFPHWMXj4WXKETjA8hCRmuVMRwhdV2FIwWD3xuwQ8V1MUPRbWKjxqKMvXOxvpzOt0JS8SV5239GQl1vyn-NTx3wPNnQdAZYNl65-xQ6_NTcgw3TRV3f9DqCPBR8LT7_vdYng7bXF3DCbJAoWqS2WmqjuPcjrPCox-uhivXxzJIkvUWBW6MD9Xw1bBE5U3SPHHM-t_oH1xmsjjaQfLvBpfS0376YpbTefXGlGykDyg==
자세히보기
2+1 출시하자마자 1위 퓨어그램 모...
14,670원
2+1 출시하자마자 1위 퓨어그램 모공이별 딥클렌징폼 제주 그린티 폼클렌징 120ml, 3개, 120ml
https://ads-partners.coupang.com/image1/LbboJn6mVPxqlU9iLblJU7WDy3yFtaYbBz29S6u2e4rTamSwxAJrbsaL5t0Jka36Qt3Tg7PIrvWOV3JlxdrNcnOEk69p-BwWorl7M05B54cisW4KK2aqdN1L2oT5YnSg2XsoliQZs1ESgmywRi4MTsRV-NQ28Mjy8nfEi-64KsDseyHObLdNe7CnpbuYMB6z8_-jMdRf8r8imnFzjqK8haAf_NoaTiVsffKNnkDWUeH12vOjYU_KOL1PL3zvSjUUcc5Z_1JlOLpuYJFQxfi6RCBHsXagU5_DK1RFzfbDayOqIFKX6pcaNBwDaZuw42SBIIhJuTeJolpMmCMcYypGUsBbSiEApSTOhOcwYd9u1vHu63w1zOUBsbhu4xLzR5LrLAEj2X-qaMl9qzFVVi1HvelbxsZbN5BJSGbw5AfoHi7uGh7FMCNFqLhc0Ij1Th0RmLTS776qS7lvBIVC9Kz0bLlR5oIU0_NlBUbEgk809Hx4GBE9KUBdZtNDRjhQd3Jy50SHAOY2HNk201_LoMwgVNCCZ7vS1C4=
자세히보기
더마팩토리 나이아신아마이드 20% 세...
5,610원
더마팩토리 나이아신아마이드 20% 세럼, 30ml, 1개
https://ads-partners.coupang.com/image1/GDeXh7jTOUJSWKZBGGeyYwBj1v1ImBENx6wRKF--ifeiCN_Xj-cp33KpJoouWb2UPs6CiLD1hsk1YZ04ArUBh2mpJNv1F3YwW5DLqbn1_ZQzF0KyCh36lhKZqpDme8eMiKMTn36RUMlFCvTQ_s_nBgD2mBQEOgJkzCEzQS-6Hq_gtjFf_yiI08JEZs0rFQT25y2TIHTB0_U9cZnNTKAL-mYfFAVNCnHPMpwmto3ImYQSa6kTyWLHNYX_46fwmNQFqLCEByVKlTIvQHS7Ih6Ov2PFKntcdcc-wFFm3ngvTSrJH4NrEE_dT04hWeJDQd8ttqXL_r_pGunmJh4S7tSFL7lPPxpNEm5LLMNGzAnTtd687BKmrhl_9ZK2yodqbTvuibkawcjMT0tO3KxZg9QMl5UY_L_4uaP5qX9sgm2K2d5P2t2dbX9O8QsKh8mYGF-3IVM3VouIMvguzHZIVWpZyqTfQPFjFVPXzMTGJE4dO33StzzPfV-t8uhk1gy_5Losp9swKhHVhQ==
자세히보기
StarGlow-무선 LED 피부미용...
32,800원
StarGlow-무선 LED 피부미용 마스크 7색 광원 홈케어 피부관리기 USB 충전식 화이트
https://ads-partners.coupang.com/image1/R7_7vAMIjG9EnSgdR_h_yn3LyJgyod0VW_W7qG63rmHW0Fc4i5BmKJHtTBbsFTr8zCXNJFC5PBrcjybOKz66fQcQCJd3ftacEMIQ0o8w0hjQuzmCmq2NuVqndzd7CDidDVQm2X7bmTnUhyujQiN5VJKB7tYVJAXxAsAHtD1HNX6n1h3ZIBokmVSef9QHvg2CqpC1wFuBdhl5YXdt7hEcWnrPTxapGTqmNhDtbO743YFFtgLUtcp15AlewU7Qa6x0pMKgTSggOya04wn3QhIUMxJnQq6Akp7blGBNzlmpesJ3Fr560iLrlE9OfkEUvAOj1ZaygmHxa9PyzCQh5UJHe4A6J68GXYX455wSLmQf8MPitmdkmSl8_a_Sp6ZIhBLnvvq9VBbTJEtx_lJ1tYVW6JIT9dIdOsHs_twUdzAIbofpfDmCDt45DqDBO3EPDudHKMF6n11jqLlxBwQ7p7klGgPqKSOGsctLU37U04lY9vAs1VSVAX7hO9onTH5luzuhZpIrS3MI6qCMORtFv6LdZDrgQET0vcsmY8UlLYS79GeC3AY=
자세히보기
MIGA V라인 무선 휴대용 EMS ...
13,900원
MIGA V라인 무선 휴대용 EMS 미세전류 얼굴 마사지기 브이라인 이중턱 리프팅 마사지기
https://ads-partners.coupang.com/image1/npSUHWobFY2k58b4nv0n5O87QQBMO92xgJwyiUyeD972SZEZO21vfY2X9PM8821sB0ECsqzVT2cmAwXR4b3jo3zSN_LVZ-6_zy63VIDOFG96GjeAErnMxTfiQQtzqygJXukbb_e49Ym630vMZq52ptlmMqU_K-2sU-9coUXDIsh0xCfCpVF0RrPWw39-hNRSFN1Ro6zSSwc1ga4AMFrPCy-TMNHUp3JkdgCf5KlJk4UBPEUxaQ15kDJGvIXIjcWJhIaqcqyJ0zVtvPaoJmkpbKQ4V0vldsl9vwB3amU9s-cbXmY0Gvxez-JMsuL77gVz8V_eeLnF4GRXik3XasvqXZBJlr89qLroyuKm2WgFQwHVnLI7gVRO0OLgDX0ISF47XMlW2esKoc0-jILx6AdgxIt9j6j1wzofiFz3IIQQMYp4mrrBmYM7I8wE4Y6j6SIUKQ4DecCEVg8RsVEtvjFJ2SYTFbFEzce-nAfJwfb1z5eYR9u8y_g9G6lXCpZUuWR_GXxEgsD4x9ka5lmdXAnuLY-QbvvB5MHjj0HW2pMu0zcIGg==
자세히보기
MIFAN V라인 무선 LED진동 페...
20,900원
MIFAN V라인 무선 LED진동 페이셜마사지기 EMS 고주파마사지기 얼굴 마사지기
https://ads-partners.coupang.com/image1/RFUrAg7mExGHGuu8RAfq-u5SZdQr5WI28Wp6DA7wX1zWUk6aHHbeutwaHhRSLhjd0JUXWlAq8avYSN40pGfeKQAxVu0tVpjl6F0798N4Yvgu6CpPl8TRIlcsr61ZRQo_7wXZCP_wfYCpHi1NiFNS19sOBN4QVpQJajK6do0CddzVXfIJvBUgkz3z_9p9ypPFDkH6F1Qfma94AYHXztzbMH2baRtxeceXiOQsHVMHxl9Wk8-TyhbmyDfei8SWz9bMOqF60YBTIsAhCv4HaS9ce02LZokDl19ZJclb2PqwTT17BYTRYo3EXwNSQvR26QjuqDRyJZaWFVvSOQsdKkM_JicALbhJkbHVM8RKzbJdhspg64SpFQ6fI-WmsM24Ae82CSvWfIZzlPK6aecGp12cg7IzE9ACd88ipFdqpB6w1DMpkvOjj9-Cm2S04kijgrrkbkuUghvl829MAYhO6v-dl6pxwprC1l9dPKJiPsjPrr86LzhIfccseEuDdszmLsxcArQblcdooR28MoHVEz1yYS4tSuJGKHi34iawFUUvrqtckg==
자세히보기
린제이 프리미엄 티트리 모델링팩1kg...
18,400원
린제이 프리미엄 티트리 모델링팩1kg+팩도구3종+해면
https://ads-partners.coupang.com/image1/pVu364xj1C6UgyripUB2T94TVcyzL01SZJrwMXzTAG5iGeBOSWQB4owjgyo8HDjaHsbXV6o3PJsowqlFfIWuCHEy3_JyQQBsvpb2Qn7tHbOlNIbC07py_CQYTJ2uijGRpBoikzqR2rHfq3oXsH_KUNnFjozemORqV9s0hyGRLYA0Wxxz59sVqy6iYEM8lUyppqhB-k49YC91lDSuwpJNsRKbrX0JDTkhhDcaC91oW9cnoPQFhiM9oQpvIyotGyLcrzQNsefPU7mOTYj_lnVWgjVWZifRobxD8UkiO6qc7xsv6yrb9yNt3OFR2wuB0BZptzmx86iAd9OhFCJIdlIXHCVvTnv6Tkm2k1rC4JQ_7PWEy1zexxRcETEmJ0MgOMv5MSWljGqZUVnKaxaRwLWhuvPKhNBowDPEMSxdIyxsyni1ihu5N4HcIzYJlTepjcD9Z5aAMM7PpKxwwU00Ch5nLFUl9I1SGZcxp9DRCjrGE7zGEY8eKO5Xy886bsC-vje09gm3CrD1EVBY98OVf17y93Nxs0rDKvZ-a2lfqThs_LMz0rg=
자세히보기
이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
){kind=small}
){kind=small}
){kind=small}
){kind=small}
