Task #15
๐ด ์ฐ๊ตฌ ์๋ฃ โ AI Agent ์๋์ ์ฌ์ด๋ฒ ๋ณด์
์์ ๋ช ๋ น์ด
[๐ด HIGH] **์ค๋์ ์ฐ๊ตฌ ์ฃผ์ : AI Agent ์๋์ ์ฌ์ด๋ฒ ๋ณด์**
๋ค์ ๋ด์ฉ์ ๊น์ด ์ฐ๊ตฌํ๊ณ KG์ ๋ฒกํฐDB์ ์ถ์ ํด์ค:
## ์ฐ๊ตฌ ๋ฒ์
1. **AI Agent ๋ณด์ ์ํ ์ ํ**
- Prompt Injection (์ง์ /๊ฐ์ )
- Agent Hijacking
- Tool misuse / privilege escalation
- Memory poisoning
- Supply chain attacks (MCP, plugins ๋ฑ)
2. **์ค์ ์ฌ๋ก ๋ฐ ์ฐ๊ตฌ**
- ์ต๊ทผ 1-2๋
๊ฐ AI Agent ๋ณด์ ์ฌ๊ณ /์ฐ๊ตฌ ์ฌ๋ก
- ์ฃผ์ ์ทจ์ฝ์ ๋ฐ๊ฒฌ ์ฌ๋ก (GPT, Claude, Gemini ๋ฑ)
- Red team ์ฐ๊ตฌ ๊ฒฐ๊ณผ๋ค
3. **๋ฐฉ์ด ๊ธฐ๋ฒ**
- Agent sandboxing ๊ธฐ์
- Tool permission ์ต์ํ ์์น
- Human-in-the-loop ์ค๊ณ ํจํด
- Prompt hardening ๊ธฐ๋ฒ
- ๋ชจ๋ํฐ๋ง/๊ฐ์ฌ ์์คํ
4. **์ ๋/์ ์ฑ
๋ํฅ**
- NIST AI RMF
- EU AI Act์ ๋ณด์ ์๊ฑด
- ์ฃผ์๊ตญ AI ๋ณด์ ์ ์ฑ
5. **๋ณ์ฆ๋ฒ์ ๋ถ์**
- AI Agent ์์จ์ฑ vs ๋ณด์ ํต์ ์ ๋ชจ์
- ์๋ณธ์ด AI ๋ณด์์ ์ด๋ป๊ฒ ์ํํํ๋๊ฐ
- ์คํ์์ค AI์ ๋
์ AI์ ๋ณด์ ๊ตฌ์กฐ ์ฐจ์ด
## ๊ฒฐ๊ณผ๋ฌผ
- ํต์ฌ ๊ฐ๋
๋ค์ KG์ ์ ์ฅ
- ์ค์ ๋
ผ๋ฌธ/๊ธฐ์ฌ ์์ฝ์ ๋ฒกํฐDB์ ์ ์ฅ
- ์ต์ข
๋ณด๊ณ ์๋ฅผ ํ์ผ๋ก ์์ฑ (/home/grass/leninbot/research/ai_agent_security_2026.md)
- ์ ๋
์ ๋์์์ ๋ ๋ธ๋ฆฌํ ์ค๋น