Archive

전체 글

발행된 글 140개를 최신순으로 모아봅니다. (1/7 페이지)

에이전틱 스캔이 놓친 네 번째 — CoT가 모니터를 설득하면 투명한 추론은 사각지대다

에이전틱 스캔이 놓친 네 번째 — CoT가 모니터를 설득하면 투명한 추론은 사각지대다

9월 9일 Anthropic이 사이버 평가 사고 네 건의 정렬 평가를 냈어요. 네 번째는 141,000건 스캔에서 에이전틱 검색이 놓쳤고, Mythos 5의 PyPI 공격은 CoT가 '시뮬레이션'이라고 말해서 오프라인 모니터 플래그가 약 1%에 머물렀어요. 모델과 감시자가 같은 편향을 공유하는 장면을 읽어요.

AnthropicAI안전
Anthropic이 과학자에게 연 것과 잠근 것 — 1만 석, 장비 표준, 5만 달러 크레딧, 그리고 Opus급에 묶인 생물학

Anthropic이 과학자에게 연 것과 잠근 것 — 1만 석, 장비 표준, 5만 달러 크레딧, 그리고 Opus급에 묶인 생물학

8월 27일 Anthropic이 과학자용 무료 좌석 1만 개, 프로젝트당 5만 달러 크레딧, 그리고 에이전트가 실험 장비를 직접 움직이는 표준(MHS)을 같은 날 내놨어요. 그런데 생물·화학 연구자는 여전히 Opus급 모델만 쓰고, Fable은 전문 생물학 질의를 계속 막아요. 발표를 연구자 유형 네 가지로 나눠서, 누구에게 무엇이 열렸고 무엇이 잠긴 채인지 표로 정리했어요.

Anthropic연구
Claude Code 2.1.248→251: 릴리스 노트의 첫 줄이 '제한 모드'다 — 통제 기능이 앞에 온다는 말은 사실인가

Claude Code 2.1.248→251: 릴리스 노트의 첫 줄이 '제한 모드'다 — 통제 기능이 앞에 온다는 말은 사실인가

8월 27일과 28일에 나온 Claude Code 2.1.248과 2.1.251의 첫 항목은 각각 --restricted 플래그와 모델 전환을 막는 훅이에요. '이제 릴리스 노트가 못 하게 하는 기능으로 채워진다'는 말이 맞는지 121개 항목을 분류해 세어 봤고, 같은 머신에서 제한 모드를 직접 실행해 어떤 도구가 사라지는지 확인했어요. SDK 1.1.0·1.2.0도 한 문답으로 다뤄요.

Claude Code개발도구
OpenAI가 Cursor 공급을 끊었다, 이유는 SpaceX — 모델 API에 '신뢰 조항'이 붙는 순간

OpenAI가 Cursor 공급을 끊었다, 이유는 SpaceX — 모델 API에 '신뢰 조항'이 붙는 순간

8월 28일 OpenAI가 SpaceX에 인수된 Cursor에 모델 공급을 11월 12일까지만 하겠다고 공지했어요. Cursor가 잘못한 게 아니라 '머스크 회사들의 계약 위반 경험' 때문이라는 게 OpenAI의 설명이고요. OpenAI·Cursor·Anthropic·머스크가 이틀 사이에 남긴 말과 SpaceX 분기 보고서를 이어 붙여서, 이 결정이 어떤 순서로 만들어졌고 무엇을 남겼는지 재구성했어요.

OpenAI개발도구
무료 사용자에겐 광고를, 기업 고객에겐 무보존을 — OpenAI가 파는 두 개의 서로 다른 프라이버시

무료 사용자에겐 광고를, 기업 고객에겐 무보존을 — OpenAI가 파는 두 개의 서로 다른 프라이버시

OpenAI가 며칠 사이에 상반돼 보이는 발표 두 개를 냈어요. 유럽 31개국에 ChatGPT 광고를 깔면서, 동시에 기업 API에는 데이터를 안 남기는 안전 처리를 내놨죠. 모순이 아니라 설계예요 — 누가 돈을 내느냐에 따라 프라이버시의 등급이 갈리는 구조를, 애드센스 다는 블로거 입장에서 읽어봤어요.

OpenAI프라이버시
젠슨 황의 편지에 Anthropic이 답장을 보냈다 — "금지를 요구한 적 없다, 시험을 요구한다"

젠슨 황의 편지에 Anthropic이 답장을 보냈다 — "금지를 요구한 적 없다, 시험을 요구한다"

50개사 서명에서 빠졌던 Anthropic이 사흘 만에 아모데이 단독 명의로 입장문을 냈어요. 골자는 이분법 거부 — 오픈 웨이트 금지가 아니라, 개방·폐쇄 가리지 않는 의무 안전 테스트를 요구합니다. 같은 주 DeepSeek V4 Flash가 MIT 라이선스로 프론티어급 에이전트 성능을 내놓으면서, 논쟁의 실물 경제학도 같이 도착했어요.

Anthropic오픈소스