Plug and Play - XAI framework

https://github.com/OpenXAIProject/pnpxai

• 설명 대상 AI 모델 유형을 자동으로 식별하여 최적의 설명 결과를 제공
• 설명 가능성을 고려하지 않고 개발된 AI 모델을 재학습없이 설명성을 제공
• Model detector - recommender - explainers - evaluator - optimizer → visualizer
• 3 criteria & 6 metrics
  • faithfulness
  • robustness
  • complexity

https://github.com/pytorch/captum

Neural ODE Transformers and Beyonds - Anh Tong

https://arxiv.org/abs/2503.01329

https://arxiv.org/abs/1806.07366

초거대언어모델의 위험성과 카카오의 노력

• llm은 “손실”정보 압축기