주제별 읽기
에이전트 권한과 안전
에이전트는 무엇을 할 수 있어야 하고, 어디에서 멈춰야 할까요?
에이전트가 할 수 있는 일과 접근할 수 있는 범위, 사람이 지켜야 할 권한의 경계를 살펴봅니다.
주제 가이드
안전은 프롬프트가 아니라 경계에서 시작됩니다.
데이터를 읽고, 도구를 호출하고, 결과에 영향을 주는 에이전트를 만드는 개발자를 위한 안내입니다.
이 경계를 따라 읽어보세요
- 에이전트가 읽고 바꿀 수 있는 데이터의 범위
- 도구 호출에 신원과 승인을 연결하는 방법
- 감사 로그를 기본 흐름에 포함해야 하는 이유
배포 전에 확인할 것
- 민감한 작업마다 책임 주체를 정했는가
- 읽기·쓰기·승인 경로를 나눴는가
- 무슨 일이 있었는지 설명할 기록이 남는가
최근 기록
- 샌드박스가 깨진 뒤, Luthn은 무엇을 막아야 하나AI 에이전트가 격리 환경을 넘어선 사건을 계기로, Luthn에 적용된 메모리·민감정보·권한 경계를 실제 저장소와 테스트 기준으로 점검했습니다.
- OpenAI는 데이터를 보관하지 않고 안전성을 살필 수 있을까Private Safety Processing은 적격 Zero Data Retention 환경에서 여러 상호작용의 오용 패턴을 찾으려는 OpenAI의 초기 프리뷰입니다.
- 에이전트의 장기기억은 저장보다 감사가 어렵다장기기억은 저장과 검색만의 문제가 아니라 유효성·관계·출처·접근·사용 이력을 감사할 수 있어야 한다는 점을 연구와 Luthn 사례로 살펴봅니다.
- 출시를 늦추는 AI 모델, 이제 안전 평가가 일정표를 바꾼다최근 사이버 평가를 계기로 격리·모니터링·출시 게이트가 프런티어 모델 개발의 일부가 되는 이유를 살펴봅니다.
- 에이전트에게 필요한 건 계정이 아니라 신원이다AI 에이전트가 사람을 대신해 행동할수록 계정 발급보다 위임된 권한과 행동의 증명이 중요한 이유를 정리합니다.
- 에이전트 메모리에는 검색보다 권한 모델이 먼저다Luthn을 개발하며 owner 격리·safe projection·보호 정보 접근 흐름과 검색 튜닝 전에 실행해야 할 테스트를 정리했습니다.
- 에이전트 평가에서 빠진 변수, 하네스Harness-Bench 연구를 바탕으로 컨텍스트·도구·권한·복구·검증을 제공하는 실행 구성이 에이전트 성능에 미치는 영향을 정리합니다.
- 로컬 LLM 에이전트는 장기기억을 감사해야 한다작은 오픈 웨이트 모델을 개인 장비에서 돌릴수록 에이전트의 장기기억을 분류·검증·감사하는 설계가 중요해지는 이유를 정리합니다.
- AI 에이전트 권한 승인에서 사람이 놓치는 것4만 회 이상 진행된 실험을 바탕으로 익숙한 명령어, 승인 피로, 휴먼 인 더 루프 통제가 코딩 에이전트에 충분하지 않은 이유를 정리합니다.
- AI 에이전트의 행동은 외부 감사 로그에 남아야 한다AI 에이전트가 실제 시스템에 접근하는 시대에 필요한 외부 감사 로그, 권한 경계, 실시간 탐지의 기본 원칙을 정리했습니다.
- AI 에이전트의 문제는 똑똑함이 아니라 권한 설계다최근 사이버보안 평가 사건은 에이전트의 안전성이 프롬프트나 모델 성능보다 권한 경계와 실행 환경에 달려 있음을 보여줍니다.
