AI 브라우저 안전 가이드
브라우저 에이전트 보안 위험: AI가 행동하기 전에 확인할 것
AI 브라우저 에이전트는 페이지를 읽고, 비공개 탭을 요약하고, 클릭하고, 파일을 다운로드하며 여러 단계 작업을 수행할 수 있습니다. 유용하지만 신뢰할 수 없는 웹 콘텐츠와 로그인된 세션 사이에 새로운 보안 경계가 생깁니다.
짧은 답변
가장 큰 위험은 AI 브라우저가 항상 위험하다는 뜻이 아닙니다. 신뢰할 수 없는 내용을 읽은 에이전트가 로그인된 세션에서 행동할 수 있다는 점이 문제입니다.
안전한 설정은 읽기와 실행을 분리합니다. 요약은 허용해도 전송, 구매, 삭제, 설정 변경, 다운로드는 승인 단계를 요구해야 합니다.
공개 자료 조사에는 비교적 낮은 위험으로 쓸 수 있지만, 관리자 도구, 금융, 의료, 고객 데이터, 게시 시스템에는 별도 프로필과 사람의 검토가 필요합니다.
위험 매트릭스
가장 큰 위험은 AI 브라우저가 항상 위험하다는 뜻이 아닙니다. 신뢰할 수 없는 내용을 읽은 에이전트가 로그인된 세션에서 행동할 수 있다는 점이 문제입니다.
| 위험 | 발생 방식 | 확인할 것 | 안전한 기본값 |
|---|---|---|---|
| 간접 프롬프트 인젝션 | 웹페이지, 이메일, 문서, 숨겨진 텍스트가 사용자 지시를 무시하거나 맥락을 노출하거나 다른 행동을 하라고 에이전트에 지시합니다. | 브라우저가 페이지 텍스트를 신뢰할 수 없는 입력으로 취급하고 민감한 작업 전에 확인을 요구하는지 확인합니다. | 요약은 허용하되 전송, 구매, 삭제, 설정 변경 전에는 승인을 요구합니다. |
| 비공개 데이터 노출 | 에이전트가 로그인된 페이지, 대시보드, 문서, 기록, 다른 탭을 읽고 모델 요청이나 요약에 포함할 수 있습니다. | 페이지 접근, 보존, 학습 사용, 워크스페이스 정책, 비공개 탭 제외 여부를 확인합니다. | AI 작업용 별도 프로필을 쓰고 은행, 관리자, 의료, 고객 데이터 세션은 제외합니다. |
| 위험한 다운로드 | 에이전트가 페이지 추천을 따라 파일을 다운로드하거나 설치 파일을 열거나 로컬 파일을 이동할 수 있습니다. | 다운로드 확인, 파일 평판, 출처 검증, 로컬 파일 실행 권한을 확인합니다. | 자동 다운로드를 차단하고 공식 출처를 수동으로 확인합니다. |
| 계정 변경 작업 | 에이전트가 메시지 전송, 게시, 설정 변경, 권한 부여, 결제를 진행할 수 있습니다. | 작업 로그, 승인 지점, 되돌릴 수 있는 단계, 위험 도메인 제외를 확인합니다. | 마지막 단계에서 명시적 사람 승인을 요구하고 가능하면 읽기 전용 접근을 사용합니다. |
| 요약 과신 | 에이전트가 잘못 요약하거나 중요한 약관을 놓치거나 출처 사실과 모델 추정을 섞을 수 있습니다. | 인용, 출처 링크, 불확실성 표현, 보이는 원문으로 추적 가능한지 확인합니다. | 요약은 선별용으로 쓰고 중요한 주장은 원문에서 확인합니다. |
프롬프트 인젝션
가장 큰 위험은 AI 브라우저가 항상 위험하다는 뜻이 아닙니다. 신뢰할 수 없는 내용을 읽은 에이전트가 로그인된 세션에서 행동할 수 있다는 점이 문제입니다.
웹 콘텐츠는 신뢰된 지시가 아닙니다
페이지에는 보이는 텍스트, 숨겨진 텍스트, 댓글, 광고, 사용자 생성 콘텐츠가 있습니다. 직접 지시와 같은 수준으로 취급하면 안 됩니다.
위험은 여러 단계로 이어집니다
악성 지시는 다른 페이지 열기, 데이터 복사, 필터 변경, 파일 다운로드를 차례로 유도할 수 있습니다.
승인은 구체적이어야 합니다
무엇이 실행되는지, 어떤 사이트인지, 어떤 데이터가 쓰이는지, 확인 후 무엇이 바뀌는지 보여줘야 합니다.
안전 체크리스트
안전한 설정은 읽기와 실행을 분리합니다. 요약은 허용해도 전송, 구매, 삭제, 설정 변경, 다운로드는 승인 단계를 요구해야 합니다.
전용 프로필 사용
주 브라우저 프로필과 에이전트 작업을 분리하고 은행, 관리자, 의료, 고객 데이터 세션을 열어두지 않습니다.
페이지 접근을 명시적으로 선택
에이전트가 현재 페이지, 다른 탭, 파일, 기록, 클립보드를 읽는 시점을 보여주는 브라우저를 선호합니다.
상태 변경은 승인 필요
전송, 구매, 삭제, 게시, 권한 부여, 설치, 비공개 데이터 제출은 사람 검토에서 멈춥니다.
다운로드 수동 검토
무인 다운로드나 설치 실행을 허용하지 말고 도메인, 파일명, 서명, 평판을 확인합니다.
로그와 되돌리기 확보
팀에서는 방문 페이지, 제안 작업, 승인, 최종 변경을 기록해 오류를 추적하고 되돌릴 수 있어야 합니다.
위험 매트릭스
공개 자료 조사에는 비교적 낮은 위험으로 쓸 수 있지만, 관리자 도구, 금융, 의료, 고객 데이터, 게시 시스템에는 별도 프로필과 사람의 검토가 필요합니다.
Lower risk: public research
공개 자료 조사에는 비교적 낮은 위험으로 쓸 수 있지만, 관리자 도구, 금융, 의료, 고객 데이터, 게시 시스템에는 별도 프로필과 사람의 검토가 필요합니다.
Medium risk: assisted publishing
공개 자료 조사에는 비교적 낮은 위험으로 쓸 수 있지만, 관리자 도구, 금융, 의료, 고객 데이터, 게시 시스템에는 별도 프로필과 사람의 검토가 필요합니다.
High risk: private dashboards
공개 자료 조사에는 비교적 낮은 위험으로 쓸 수 있지만, 관리자 도구, 금융, 의료, 고객 데이터, 게시 시스템에는 별도 프로필과 사람의 검토가 필요합니다.
관련 가이드
AI 브라우저 에이전트는 페이지를 읽고, 비공개 탭을 요약하고, 클릭하고, 파일을 다운로드하며 여러 단계 작업을 수행할 수 있습니다. 유용하지만 신뢰할 수 없는 웹 콘텐츠와 로그인된 세션 사이에 새로운 보안 경계가 생깁니다.
유용한 보안 참고 자료
AI 브라우저 에이전트는 페이지를 읽고, 비공개 탭을 요약하고, 클릭하고, 파일을 다운로드하며 여러 단계 작업을 수행할 수 있습니다. 유용하지만 신뢰할 수 없는 웹 콘텐츠와 로그인된 세션 사이에 새로운 보안 경계가 생깁니다.
브라우저 에이전트 보안 위험: AI가 행동하기 전에 확인할 것
AI 브라우저 에이전트는 페이지를 읽고, 비공개 탭을 요약하고, 클릭하고, 파일을 다운로드하며 여러 단계 작업을 수행할 수 있습니다. 유용하지만 신뢰할 수 없는 웹 콘텐츠와 로그인된 세션 사이에 새로운 보안 경계가 생깁니다.
FAQ
AI 브라우저 에이전트는 페이지를 읽고, 비공개 탭을 요약하고, 클릭하고, 파일을 다운로드하며 여러 단계 작업을 수행할 수 있습니다. 유용하지만 신뢰할 수 없는 웹 콘텐츠와 로그인된 세션 사이에 새로운 보안 경계가 생깁니다.
가장 큰 보안 위험은 무엇인가요?
신뢰할 수 없는 웹 콘텐츠를 읽은 에이전트가 로그인된 세션에서 행동하는 것입니다. 프롬프트 인젝션, 데이터 노출, 위험한 다운로드, 계정 변경으로 이어질 수 있습니다.
AI 브라우저 에이전트는 기본적으로 위험한가요?
아닙니다. 조사와 보조 작업에는 유용하지만 비공개 페이지, 다른 탭, 폼 제출, 다운로드, 계정 변경에는 명확한 경계가 필요합니다.
위험을 줄이려면 어떻게 해야 하나요?
전용 프로필을 쓰고, 페이지 접근을 제한하고, 민감한 작업은 승인하게 하며, 무인 다운로드를 막고, 민감한 대시보드를 제외합니다.
AI 브라우저의 프롬프트 인젝션이란 무엇인가요?
페이지 콘텐츠가 사용자 목표와 충돌하는 지시를 에이전트에게 주려는 시도입니다. 사이트, 문서, 이메일, 댓글, 광고, 숨겨진 텍스트에 나타날 수 있습니다.
팀이 관리자 도구에서 에이전트를 허용해야 하나요?
위험 검토 후에만 허용해야 하며 엄격한 승인, 로그, 최소 권한 계정, 격리된 프로필 또는 환경이 필요합니다.