AI뉴스

AI 모델 가중치 안에 비밀 트리거로만 풀리는 능력을 암호화해 숨길 수 있다는 논문이 나왔어요. 감사·방어 관점에서 위협 모델과 실험 결과, 작은 실험 규모와 큰 추가 비용 같은 한계를 정리했어요.

텐센트 클라우드가 공개한 TencentDB Agent Memory는 대화·문서·코드를 4가지 메모리 자산으로 바꿔 여러 AI 에이전트가 함께 쓰게 해요. 깃허브 별 2만 8천 개를 넘었지만, 기억 중복·누락 버그 보고도 열려 있어요.

앤트로픽이 클로드의 추론을 대량으로 빼내 다른 모델을 학습시키는 증류 공격을 막는 방어 3가지를 공개했어요. 빼낸 데이터는 90~99% 줄었다고 밝혔지만, 오탐·연동 수정·막힌 요청 과금이라는 비용도 함께 인정했어요.

1,222명 무작위 대조 실험에서 약 10분 AI 도움을 받은 뒤 AI를 빼자 정답률이 떨어지고 포기가 늘었어요. 답을 바로 받은 사람에게서 피해가 컸고, 힌트만 받은 사람은 AI 없이 푼 사람과 거의…

야우싱퉁 칭화대 석좌교수가 중국 수학 기관 8곳을 묶은 수학·AI 실험실 연합을 10월 11일 출범했어요. 그는 오픈AI가 한 일을 시키면 격차가 매우 크다고 말했어요.

REA(Reverse Engineer Anything)는 Claude Code·Codex 같은 AI 에이전트가 앱과 바이너리를 분석하도록 돕는 MIT 라이선스 오픈소스예요. README 기준 사용법과 저작권·이용약관 일반 유의점을 정리했어요.

디인포메이션 보도에 따르면 앤트로픽이 IREN과 발표하지 않은 다년 클라우드 계약을 맺었어요. IREN 10-K에는 8월 이름 없는 프런티어 AI 연구소 계약만 적혀 있어요.

앤트로픽이 클로드 학습에 쓰는 ‘클로드 헌법’을 두고 술레이만과 색스가 ‘AI를 만든 회사 지시까지 거절하게 가르친다’고 비판했어요. 헌법 원문의 양심적 거부·멈춤 예외 조항과 양쪽 주장을 표로 비교했어요.

브래드 스미스 마이크로소프트 부회장 겸 사장이 ITV 인터뷰에서 ‘AI는 우유 한 팩보다 덜 규제된다’며 출시 전 독립 시험, 사고 공개, 비상 브레이크, 과실 책임을 요구했어요. 한국 인공지능기본법 제31·32조 원문과 나란히…

앤트로픽이 클로드 에이전트가 새 효소 시스템 ART를 찾았다고 발표한 뒤, 같은 효소를 연구해 온 연구자가 미공개 연구를 클로드에 입력해 왔다고 밝혀 논란이 됐습니다. 양측 주장과 기술 보고서의 재현 결과를 나란히…