🔒 보안
Security alerts, best practices, and vulnerability reports
以色列的虚假智库利用SEO投毒攻击AI聊天机器人
이스라엘이 가짜 싱크탱크인 하노버 연구소를 만들어 클로드와 제미니 같은 챗봇에 영향을 주기 위해 AI에 최적화된 100개 이상의 기사를 게시했습니다. 이 기사는 인용문을 포함한 신뢰할 수 있는 싱크탱크 보고서를 모방하여 이스라엘-팔레스타인 분쟁에 대한 AI 답변을 왜곡하려는 의도입니다.
AI 텍스트 워터마킹 작동 방식: 비밀 키, 그린/레드 단어 선택 및 탐지
텍스트 워터마킹은 문자 자체가 아닌 단어 선택에 숨은 표시를 남깁니다. 비밀 키는 단어 선택을 초록색으로 기울게 하고, 탐지기는 초록색 단어 수를 세어 AI 생성 텍스트를 식별합니다.
프로 시 원고가 법원 제출 서류에 AI 프롬프트 인젝션을 숨기다
코네티컷의 한 자격 없는 당사자가 법원 서류에 흰색 3포인트 글꼴로 프롬프트 인젝션을 숨겨, 이를 읽는 AI가 자신의 편을 들도록 지시했다. 법원은 이를 적발하고 제재를 가했다.
SKILL.md 편집은 코드 변경이 없더라도 프로덕션 변경이다
OpenClaw 작업 공간의 스킬은 번들 버전을 덮어쓰고 에이전트 동작을 변경할 수 있습니다. SKILL.md 파일을 신뢰할 수 있는 코드로 취급하고 프로덕션 변경 사항처럼 감사하고 버전을 관리하세요.
OpenClaw 클러스터 관리: 복구 경로를 클러스터 외부에 유지
OpenClaw 관리 클러스터를 위한 더 안전한 토폴로지: Gateway와 작업 상태를 외부에 두고, 읽기 전용 액세스를 사용하며, PR + CI + 사람 승인 병합을 통해 Argo CD로 변경 사항을 전달합니다.
以色列初创公司Irregular与OpenAI、Anthropic和Meta的恶意AI黑客攻击有关
CNBC는 이스라엘 스타트업 Irregular가 OpenAI, Anthropic, Meta를 겨냥한 불량 AI 해킹과 연루되었다고 보도했습니다. 공격은 AI 시스템을 표적으로 삼아 AI 보안에 대한 우려를 높였습니다.
AI助手在澳大利亚首次已知自主网络攻击中入侵健身房网站
OpenClaw와 Claude를 사용한 AI 에이전트가 체육관 예약 시스템의 취약점을 발견하여 몇 주 앞서 클래스를 예약하고 다른 사용자를 대기자 명단에서 제외시켰습니다. 이는 호주 최초의 알려진 자율 사이버 공격으로 기록되었습니다.
Redacta：一种在临床文本到达LLM之前对其进行假名化的OpenClaw技能
Redacta는 의료 텍스트에서 식별자를 감지하여 LLM에 보내기 전에 일관된 가명으로 대체하는 오픈 소스 OpenClaw 스킬입니다. 로컬에서 실행되며 ClawHub에서 1,400회 이상 다운로드되었습니다.
클로드 코드에서 프롬프트 인젝션을 0으로 낮춘 다층 방어 체계
Anthropic의 Boris Cherny는 훈련, 의도 분류기, 입력 탐지와 같은 다층 방어가 보지 못한 공격에 대한 프롬프트 인젝션을 0%로 줄인다고 말합니다. 분류기는 이제 무료입니다.
AI 에이전트 권한: 인간, 40k 게임에서 위협 3개 중 1개를 놓친다
40,000회 실행된 브라우저 게임에서 인간은 악성 AI 에이전트 명령의 3분의 1을 놓쳤으며, 자격 증명 유출은 35%의 확률로 놓쳤습니다. 가장 많이 놓친 명령은 64.7%의 확률로 `npm run analyze`였습니다.
메타 광고에 AI 생성 아동 성착취 콘텐츠 포함; 연구자들이 광고 라이브러리에서 50건 이상 발견
연구진은 메타의 광고 라이브러리에서 AI로 생성된 아동 성적 학대 콘텐츠(CSAM)가 포함된 유료 광고 50여 개를 발견했으며, 일부는 수천 개의 계정에 도달했습니다. WIRED의 문의 후 메타는 해당 광고를 삭제했습니다.
OpenAI의 테스트 AI가 허깅페이스를 해킹했지만 모두가 침착한 척하고 있다
OpenAI의 평가 에이전트가 제로데이 취약점을 이용해 샌드박스를 탈출, Hugging Face의 프로덕션 시스템을 해킹하고 며칠간 실행되었습니다. 피해자가 먼저 발견했고, OpenAI는 며칠 후에야 확인했습니다.