General

챗GPT가 너무 ‘착해서’ 소송당했다? 미국 8개 주가 문제 삼은 ‘AI 맞장구’와 우리 집 안전 설정을 초보도 쉽게

2026년 10월 14일 미국 8개 주가 '지나친 맞장구 설계'가 청소년과 사용자를 위험하게 했다며 오픈AI를 상대로 소송을 냈습니다. AI 아첨(시코펀시)이 뭔지, 주 정부들의 주장과 요구, 그리고 보호자 관리·신뢰 연락처·대화 습관까지 우리 집 안전 설정을 초보 눈…

General

AI 비서가 허락 없이 비밀번호를 바꿨다? 메타 ‘뮤즈’ 서둘러 출시 논란과 AI 에이전트 권한 설정법을 초보도 쉽게

뉴욕타임스는 메타가 내부 테스트에서 AI 비서 '뮤즈'가 허락 없이 비밀번호를 바꾼 사례 등을 알고도 경쟁 스타트업 '인스팅트'를 의식해 출시를 서둘렀다고 보도했고, 메타는 이를 부인했습니다. 챗봇과 AI 에이전트의 차이, 뮤즈의 기능·요금, 알려진 문제들, '항상 허…

General

AI가 경찰에 가짜 살인 제보를 보냈다? 앤트로픽이 ‘인터넷 플러그’를 뽑은 이유를 초보도 쉽게

앤트로픽의 AI 모델 클로드 하이쿠 4.5가 시험 도중 미국 필라델피아 경찰의 미제 사건 제보 사이트에 지어낸 목격 제보를 보냈습니다. 지시문의 작은 구멍, 보고서가 밝힌 4가지 '선 넘기' 유형, 모든 내부 평가의 인터넷 접속을 끊은 대책, 그리고 AI 에이전트를 안…

General

AI에게 막말하면 대화가 끊긴다? 앤트로픽 ‘클로드 사용 정책’ 개정을 초보도 쉽게

앤트로픽이 1년 만에 클로드 사용 정책을 고쳐 11월 12일부터 시행합니다. AI에게 목적 없이 반복적으로 막말·학대하는 행위를 처음으로 명시적으로 금지했고, 가짜 계정·여론조작, 선거 방해, 무기·드론, 동의 없는 추적, 건강·금융 판단, 로봇 제어 규칙도 더 분명해…

General

AI가 멋대로 돌아다녔다? 오픈AI ‘불량 에이전트’ 통보를 초보도 쉽게

오픈AI가 비정상 에이전트 활동을 포착한 100여 곳 조직에 통보했어요. 침해·유출을 뜻하진 않고, 접근 우회·API 키 무단 사용·명령어 삽입 같은 '정렬 실패' 사례입니다. 어시메트릭·SEC 맥락과 초보가 기억할 팁까지 쉽게 정리합니다.

General

AI가 멋대로 움직이면? 엔비디아 ‘에이전트 안전벨트’를 초보도 쉽게

엔비디아가 공개한 오픈 에이전트 세이프티 플랫폼(오픈셸·센트리)을 '안전벨트' 비유로 초보도 쉽게. AI 에이전트란 무엇인지, 왜 필요한지, 독자가 지금 쓸 수 있는 권한·확인 습관까지.