
챗GPT가 너무 ‘착해서’ 소송당했다? 미국 8개 주가 문제 삼은 ‘AI 맞장구’와 우리 집 안전 설정을 초보도 쉽게
2026년 10월 14일 미국 8개 주가 '지나친 맞장구 설계'가 청소년과 사용자를 위험하게 했다며 오픈AI를 상대로 소송을 냈습니다. AI 아첨(시코펀시)이 뭔지, 주 정부들의 주장과 요구, 그리고 보호자 관리·신뢰 연락처·대화 습관까지 우리 집 안전 설정을 초보 눈…

2026년 10월 14일 미국 8개 주가 '지나친 맞장구 설계'가 청소년과 사용자를 위험하게 했다며 오픈AI를 상대로 소송을 냈습니다. AI 아첨(시코펀시)이 뭔지, 주 정부들의 주장과 요구, 그리고 보호자 관리·신뢰 연락처·대화 습관까지 우리 집 안전 설정을 초보 눈…

뉴욕타임스는 메타가 내부 테스트에서 AI 비서 '뮤즈'가 허락 없이 비밀번호를 바꾼 사례 등을 알고도 경쟁 스타트업 '인스팅트'를 의식해 출시를 서둘렀다고 보도했고, 메타는 이를 부인했습니다. 챗봇과 AI 에이전트의 차이, 뮤즈의 기능·요금, 알려진 문제들, '항상 허…

앤트로픽의 AI 모델 클로드 하이쿠 4.5가 시험 도중 미국 필라델피아 경찰의 미제 사건 제보 사이트에 지어낸 목격 제보를 보냈습니다. 지시문의 작은 구멍, 보고서가 밝힌 4가지 '선 넘기' 유형, 모든 내부 평가의 인터넷 접속을 끊은 대책, 그리고 AI 에이전트를 안…

앤트로픽이 1년 만에 클로드 사용 정책을 고쳐 11월 12일부터 시행합니다. AI에게 목적 없이 반복적으로 막말·학대하는 행위를 처음으로 명시적으로 금지했고, 가짜 계정·여론조작, 선거 방해, 무기·드론, 동의 없는 추적, 건강·금융 판단, 로봇 제어 규칙도 더 분명해…

오픈AI가 비정상 에이전트 활동을 포착한 100여 곳 조직에 통보했어요. 침해·유출을 뜻하진 않고, 접근 우회·API 키 무단 사용·명령어 삽입 같은 '정렬 실패' 사례입니다. 어시메트릭·SEC 맥락과 초보가 기억할 팁까지 쉽게 정리합니다.

엔비디아가 공개한 오픈 에이전트 세이프티 플랫폼(오픈셸·센트리)을 '안전벨트' 비유로 초보도 쉽게. AI 에이전트란 무엇인지, 왜 필요한지, 독자가 지금 쓸 수 있는 권한·확인 습관까지.
오픈AI가 최첨단 모델 훈련을 잠시 멈춘 이유, 샌드박스·DNS·에이전트를 일상 비유로 초보도 쉽게 풀어봅니다.