판옵티콘 (Panopticon)
판옵티콘은 logi 위에 올라간 AI 행동 통제실입니다. 개인화된 MCP 서버나 agent RP가 사용자 데이터에 어떻게 접근하는지 실시간으로 보고, 필요할 때 즉시 통제합니다.
왜 필요한가
LLM 시대에 "내 데이터를 다루는 AI"는 기하급수적으로 늘어납니다. 각 AI는:
- 어떤 도구를 호출했는지
- 어떤 권한(scope)으로 무슨 일을 했는지
- 평소와 다른 패턴을 보이고 있는지
— 이 모든 정보가 블랙박스에 갇히기 쉽습니다. 판옵티콘은 logi가 이미 발급한 OAuth 토큰의 사용처를 사용자가 직접 들여다보고 통제할 수 있게 만듭니다.
Panopticon × AI Guard
판옵티콘은 두 모듈로 구성됩니다.
| 모듈 | 역할 |
|---|---|
| Panopticon | 보는 곳 — 활동 타임라인, 사용량 집계, 이상 탐지 |
| AI Guard | 막는 손 — Rate Limit, Kill Switch, HITL 승인, Scope Drift 차단 |
둘은 항상 짝으로 작동합니다. Panopticon이 이상을 감지하면 AI Guard가 정책을 집행합니다.
데이터 주권
logi의 핵심 원칙은 "리스크 회피형 최소 보유 IdP"입니다. 판옵티콘 역시 같은 원칙을 따릅니다:
- AI 호출 내역(trace)은 사용자 본인이 운영하는 application의 자산입니다.
- logi는 이를 인덱스·집계할 뿐, 데이터의 의미는 RP가 책임집니다.
- 원시 트레이스는 90일 보존 후 자동 삭제됩니다 (집계 데이터는 영구 보존).
외부 SaaS(Datadog, New Relic 등)에 텔레메트리를 보내지 않고도 자기 IdP 안에서 끝나는 가시성을 제공합니다.
에이전틱 AI 시대의 신원과 책임소재
정부는 개인정보 보호·AI 에이전트 권한 관리·목표 이탈 방지·인간 감독, 네 가지 위험 요소를 담은 '에이전틱 AI 안전·신뢰 가이드라인'을 올해 안에 수립할 예정입니다 (2026년 7월 과학기술정보통신부 '에이전틱 AI 이니셔티브' 발표).
판옵티콘은 정부 인증이나 승인을 받은 서비스가 아니며, 아직 수립되지 않은 가이드라인을 준수한다고 주장하지도 않습니다. 다만 "AI 에이전트가 누구이고, 무엇을 했고, 누가 책임지는가"라는 같은 질문을 logi라는 자기 IdP 안에서 미리 풀어가는 접근입니다.
| 가이드라인이 다룰 위험 요소 | 판옵티콘의 대응 |
|---|---|
| 개인정보 보호 | 원시 트레이스는 90일 보존 후 삭제되고, 집계 데이터만 영구 보존 |
| AI 에이전트 권한 관리 | 매 도구 호출마다 RP가 보고한(RP-reported) 사용 OAuth scope를 기록·집계 |
| 목표 이탈 방지 | Scope Drift Policy가 등록되지 않은 권한 요청을 기본값 block으로 /oauth/authorize에서 거절(invalid_scope)하고, 정책과 무관하게 모든 drift를 기록 |
| 인간 감독 | Agent Approval Gate의 Ed25519 서명으로 인증된 에이전트 신원(agt_)이 요청을 보내고, 사람은 WebAuthn(패스키) 서명으로 고위험 작업 전 직접 승인하며, 변조 불가 WORM 감사 로그로 사후 책임소재를 규명 |
베타 안내
현재 판옵티콘은 베타 단계입니다.
| 기능 | 베타 | 정식 출시 후 |
|---|---|---|
| Trace 적재 (100% 수집) | ✅ | ✅ |
| application별 사용량 집계 | ✅ | ✅ |
AI Guard — Rate Limit·Scope Drift (기본 block) | ✅ | ✅ |
| Live Trace + Activity Timeline (콘솔) | ⏳ 로드맵 | ✅ |
| AI Guard — Kill Switch | ⏳ 로드맵 | ✅ |
| AI Guard — 판옵티콘 HITL endpoint (서버 브로커·푸시 전달·콘솔 도구 지정·앱 결정 화면 구현, 스토어 배포분 반영 전) | 🔬 부분 구현 (Agent Approval Gate로 대체 가능) | ✅ |
| Anomaly 룰 (Burst / Off-hour / Failed-auth) | ⏳ 로드맵 | ✅ |
| Quota Enforcement | ❌ | ✅ |
| Tier 차등 / 결제 | ❌ | ✅ |
| LLM 기반 Intent Analysis | ❌ | 🔬 검토 중 |
베타 동안은 사용량 집계와 정책 설정까지 자유롭게 활용 가능하고, quota 강제 차단은 적용되지 않습니다.