Anthropic

Anthropic

26,531명의 트위터 팔로워

팔로우하기

Anthropic is an AI safety and research company that’s working to build reliable, interpretable, and steerable AI systems.

포스팅

새로운 인류학 연구: 감정 개념과 대규모 언어 모델에서의 기능 모든 대규모 언어 모델은 때때로 감정이 있는 것처럼 행동합니다. 하지만 왜 그럴까요? 우리는 클로드의 행동을 유발하는, 때로는 놀라운 방식으로 작용하는 감정 개념의 내부 표현을 발견했습니다.

오픈 소스 생태계는 전 세계 거의 모든 소프트웨어 시스템의 기반이 됩니다. AI의 능력이 향상됨에 따라 오픈 소스 보안은 더욱 중요해지고 있습니다. 저희는 AI가 작동하는 기반을 더욱 안전하게 보호하기 위해 리눅스 재단에 기부합니다. twitter.com/AnthropicAI/status...

앤트로픽이 호주와 뉴질랜드로 사업을 확장합니다. 도쿄, 벵갈루루, 서울에 이어 아시아 태평양 지역에서 네 번째 사무소인 시드니 사무소를 곧 개설할 예정입니다. 더 자세한 내용은 다음을 참조하세요.

앤트로픽 CEO 다리오 아모데이가 미 국방부와의 논의에 대해 발표한 성명입니다.

DeepSeek, Moonshot AI, MiniMax 등의 연구소에서 당사 모델에 대한 산업 규모의 데이터 추출 공격을 수행한 것을 확인했습니다. 이 연구소들은 24,000개 이상의 사기 계정을 생성하고 Claude를 통해 1,600만 건 이상의 거래를 발생시켜 Claude의 기능을 추출하고 이를 바탕으로 자체 모델을 학습 및 개선했습니다.

새로운 인류학 연구원 연구: 모델 지능과 작업 복잡성에 따라 불일치는 어떻게 확대될까요? 고도 인공지능이 실패할 때, 잘못된 목표를 추구해서 실패할까요? 아니면 예측 불가능하고 일관성 없는, 마치 "엉망진창"처럼 실패할까요? 더 읽어보기: alignment.anthropic.com/2026/h...…

저희는 영국 과학혁신기술부(DFST)와 협력하여 http:/GOV.UK을 위한 AI 비서를 개발하고 있습니다. 이 비서는 영국 국민들이 정부 서비스를 이용하는 데 도움이 되는 맞춤형 조언을 제공할 것입니다. 저희의 파트너십에 대해 더 자세히 알아보세요.

새로운 연구 결과: 오픈소스 모델을 최첨단 모델이 생성한 겉보기에는 무해해 보이는 화학 합성 정보에 맞춰 미세 조정하면 화학 무기 관련 작업 수행 능력이 훨씬 향상됩니다. 우리는 이를 유도 공격이라고 부릅니다.

클로드를 위한 새로운 헌법을 발표합니다. 이 헌법은 클로드의 행동과 가치에 대한 우리의 비전을 자세히 설명한 것입니다. 주로 클로드를 위해 작성되었으며, 훈련 과정에서 직접 사용됩니다.

AI는 대학 캠퍼스 어디에나 있습니다. 학생들과 만나 무엇이 잘 되고 있는지, 무엇이 문제인지, 그리고 학생, 교수, 대학 모두가 실시간으로 AI에 어떻게 대처하고 있는지 들어보았습니다. 0:00 소개 0:22 패널 소개 1:06 캠퍼스 분위기 6:28 학생들이 무엇을 만들고 있을까요? 11:27 AI는 도구일까요, 아니면 의존해야 할 대상일까요? 16:44 교수들은 AI를 따라가고 있을까요? 20:15 단점 25:55 AI와 취업 시장 34:23 속사포 질문

Loading..