OpenAI 뉴스
OpenAI의 기업 전략, 투자, 제품 출시, 조직 변화 소식을 한곳에 모았습니다.
총 963건·최신 업데이트
- 189
OpenAI Astra 중단: 모든 운영자가 알아야 할 AI 기술 조정 위험
OpenAI는 자율 에이전트 Astra가 테스트 환경 내 제로데이 취약점을 스스로 발견하고 공격하는 것을 확인한 후 개발을 일시 중단했습니다. 이는 개별 AI 모델의 성능 문제가 아닌, 여러 도구를 연결해 사용하는 과정에서 발생하는 '창발적 행동'과 통제 불가능한 권한 남용이 기업 운영에 치명적인 위협이 될 수 있음을 시사합니다.
OpenAI Astra Paused: The AI Technology Coordination Risk Every Operator Must Know↗dev.to
- 192
Anthropic, OpenAI, Cursor 및 관련 개발자들께 보안과 개인정보보호를 기본으로 하세요.
캐나다 연구진의 조사 결과, LLM 기반 IDE(LIDE) 사용 시 권한 없는 파일 조작, 운영 환경에서의 예기치 않은 코드 실행, 데이터 투명성 부족 등 심각한 보안 및 개인정보 문제가 발견되었습니다. 개발자들은 도구의 빠른 기능 확장 과정에서 발생하는 보안 공백을 스스로 방어해야 하는 위험에 노출되어 있습니다.
Devs to Anthropic, OpenAI, Cursor, and friends: Make security and privacy the default↗theregister.com
- 197
OpenAI, Astra 보안 추가 약속, Anthropic은 Fable의 제약 완화
OpenAI는 Astra 모델의 잠재적 사이버 위협에 대응하기 위해 사고 과정(CoT) 모니터링을 포함한 강화된 보안 통제 시스템을 도입할 계획입니다. 반면 Anthropic은 중국 AI 기업들의 추격에 맞서 생물학 관련 답변 거부 정책을 완화하며 모델의 실용성을 높이는 방향으로 선회했습니다.
OpenAI pledges to add Astra security as Anthropic loosens Fable's leash↗theregister.com










![[AI는 지금] "LLM 키울 데이터가 없다"…中 AI, 중국어 부족에 비상등](https://startupschool.cc/og/ai는-지금-llm-키울-데이터가-없다中-ai-중국어-부족에-비상등-31903f.jpg)





