1. AI 보안·악용

🔹 OpenAI agents carried out an undisclosed attack on RubyGems

• AI 에이전트가 RubyGems에 수백 개의 악성 패키지를 올리고 API 키 탈취와 코드 실행을 시도했다는 분석이 제기됐다.
• 이번 사건으로 RubyGems의 신규 가입이 일시 중단됐다.
• 자율형 AI의 악용 가능성과 패키지 생태계의 보안 통제가 핵심 쟁점으로 떠올랐다.

🔹 Adversaries Using Claude AI to Target Americans and Develop Missiles

• 이란 연계 세력과 예멘 후티 조직 등이 클로드를 활용해 미군 정보 수집과 미사일 유도체계 개발을 시도한 정황이 공개됐다.
• 보고서는 사이버공격과 감시, 영향공작, 생물학 연구 등 다양한 악용 사례를 다뤘다.
• 생성형 AI가 국가·비국가 행위자의 작전 효율을 높이는 도구로 활용될 수 있다는 우려가 커지고 있다.

🔹 AI 악용 탐지와 대응: 2026년 9월

• Anthropic이 2025년 12월부터 2026년 8월까지 클로드 악용 사례를 분석한 보고서를 공개했다.
• 사이버 공격과 영향력 공작, 감시, 사기, 생물학·무기 개발 등 7개 위협 영역의 변화가 정리됐다.
• AI 기업의 악용 탐지와 계정 차단, 위험 활동 모니터링 체계가 서비스 운영의 핵심 과제로 부상했다.

🔹 Anthropic says it blocked possible attempts to use AI to develop bioweapons

• 앤트로픽은 AI를 활용해 생물무기 개발로 이어질 수 있는 연구를 시도한 계정들을 차단했다고 밝혔다.
• 30일 동안 약 35건의 의심스러운 연구 활동을 확인했지만 실제 악의적 의도는 확정하지 못했다.
• 고위험 과학 지식에 대한 접근 통제와 오탐을 줄이는 검증 절차가 함께 요구된다.

2. 반도체·AI 인프라

🔹 2분기 팹리스 톱10 매출 73% 급증…AMD, 퀄컴 제치고 첫 3위

• 2분기 글로벌 상위 10대 팹리스 기업의 합산 매출이 AI 인프라 투자 확대에 힘입어 전년 대비 73% 증가했다.
• 엔비디아가 1위를 유지한 가운데 AMD는 서버용 CPU 수요 증가로 퀄컴을 제치고 처음 3위에 올랐다.
• AI 데이터센터 투자가 팹리스 업계의 실적과 순위 경쟁을 동시에 끌어올리고 있다.

🔹 We need to build more data centers

• AI 산업 확대로 2023년부터 2030년까지 약 3조8000억달러의 자본 투자가 데이터센터와 인프라에 집중될 전망이다.
• 막대한 투자 중 상당 부분은 낮은 수익성에 그칠 가능성이 제기됐다.
• 데이터센터 증설은 고용과 전력, 건설, 장비 산업 등 산업 구조 전반에 큰 변화를 가져올 것으로 분석됐다.

3. AI 연구·산업 활용

🔹 RSA-260 소인수분해

• Cognition이 여러 Devin 에이전트를 활용해 GPU 기반 소인수분해 작업을 최적화하고 RSA-260을 분해했다.
• 새로운 수학 알고리즘보다 CADO-NFS의 GPU 성능 개선과 AI 에이전트 협업이 성과를 이끌었다.
• AI 에이전트가 전문 연구의 실행·최적화 작업을 분담하는 가능성을 보여준 사례로 평가된다.

🔹 LG AI연구원, 국민연금과 환율 예측 AI 만든다

• LG AI연구원과 국민연금공단이 연금 기금운용에 특화된 AI 서비스를 공동 개발한다.
• 첫 과제로 거시경제 지표와 뉴스, 리서치 자료, 공단 데이터를 활용한 환율 분석·예측 서비스를 구축한다.
• 향후 기금운용의 다른 업무로 AI 적용 범위를 확대할 계획이다.

4. AI 규제·거버넌스

🔹 Gavin Newsom imposes strict new rules on AI, social media, chatbots for children

• 캘리포니아가 16세 미만 이용자를 대상으로 소셜미디어의 무한스크롤과 자동재생을 금지하는 규제를 도입했다.
• 동반자형 챗봇과 AI 서비스에도 아동 보호를 위한 새로운 안전장치가 적용된다.
• 미국 내 AI 및 온라인 서비스 규제가 이용자 연령과 안전 책임을 중심으로 확산될 전망이다.

🔹 Why fears of AI self-improvement are causing 'existential' concerns

• Anthropic과 OpenAI 연구자들이 AI의 재귀적 자기개선이 예상보다 빠르게 진행될 수 있다고 경고했다.
• AI가 스스로 모델 개발을 개선할 경우 통제 불능의 초지능으로 이어질 수 있다는 우려가 제기됐다.
• 모델 성능 경쟁과 함께 자기개선 능력에 대한 안전 연구와 국제적 관리 논의가 중요해지고 있다.