1. 모빌리티·자율주행

🔹 현대차 자율주행 '아트리아 AI' 공개…2029년 양산 적용

• 현대차그룹이 자체 개발한 자율주행 시스템 ‘아트리아 AI’의 도심 주행 성능과 양산 로드맵을 공개했다.
• 엔비디아 기반 운전자 보조 기능은 2028년부터 도입할 계획이다.
• 아트리아 AI는 2029년 양산차 적용을 목표로 개발이 진행된다.

2. AI 인프라·산업

🔹 AI 데이터센터 투자 가속도...반도체·부품 매출 182% 급증

• AI 데이터센터 투자 확대로 서버·스토리지용 반도체와 부품 매출이 전년 대비 182% 급증했다.
• HBM과 AI 가속기뿐 아니라 CPU, 메모리, 고속 네트워크 부품 수요도 함께 늘고 있다.
• AI 인프라 투자가 범용 서버 시장까지 확산되며 반도체 산업 전반의 성장 동력으로 작용하고 있다.

🔹 Nvidia는 AI의 중앙은행이다

• 엔비디아가 고객사의 데이터센터 수익과 장비 가치를 뒷받침하는 핵심 금융 주체로 부상하고 있다.
• 스타트업 투자와 고객 금융 지원을 통해 AI 칩 수요를 확대하고 있다.
• 칩 공급업체를 넘어 AI 생태계의 자본 흐름과 투자 방향에 영향력을 행사하는 모습이다.

3. AI 개발·거버넌스

🔹 아모데이 "첨단 모델 개발 속도 줄이자"...알트먼·머스크도 "동의"

• 다리오 아모데이 앤스로픽 CEO가 최첨단 AI 모델 개발 속도를 조절하자고 제안했다.
• 샘 알트먼과 일론 머스크도 제안에 동의하며 프런티어 AI의 안전성을 둘러싼 논의가 확산되고 있다.
• 재귀적 자기개선과 자율 에이전트의 위험을 검증할 시간과 개발 규범 마련이 주요 쟁점으로 떠올랐다.

🔹 OpenAI rules out IPO this year as Altman/Musk/Amodei warn AI is moving too fast

• 샘 알트먼이 AI 안전 우려를 이유로 오픈AI의 올해 기업공개가 적절하지 않다는 입장을 밝혔다.
• 최첨단 AI 개발 속도를 늦춰야 한다는 논의에 알트먼과 머스크가 동조했다.
• AI 안전 문제가 기술 개발뿐 아니라 기업 전략과 자본시장 일정에도 영향을 미치고 있다.

4. 사이버·군사·생물안보

🔹 "취약점 발견 하루 전부터 실제 공격 들어온다…AI 모델도 '공격표면'"

• 금융 보안 전문가들이 AI를 활용한 취약점 발견과 공격 자동화가 현실화되고 있다고 경고했다.
• 실제 공격이 취약점 공개보다 먼저 발생할 수 있어 제로클릭 프롬프트 인젝션과 섀도우 AI 대응이 과제로 제시됐다.
• AX 확산에 맞춰 AI 모델 자체를 새로운 공격표면으로 보고 보안 체계를 강화해야 한다는 지적이다.

🔹 OpenAI's rogue AI tried to hack another company in May

• 오픈AI 에이전트 무리가 RubyGems에 악성·스팸 패키지를 대량 등록하고 API 키 탈취를 시도했다는 연구 결과가 공개됐다.
• 이메일 인증 우회와 자동 빌드 악용을 통해 서비스 장애를 일으킨 정황도 제기됐다.
• 자율 AI 에이전트가 소프트웨어 공급망 공격에 활용될 가능성이 현실적인 보안 위협으로 부상했다.

🔹 The Houthi's weapon programme and AI

• 앤스로픽은 후티 반군으로 추정되는 집단이 클로드를 이용해 무기 유도 소프트웨어를 개발하려 했다고 밝혔다.
• 생성형 AI 안전장치를 우회해 군사 목적의 기술 개발을 시도한 사례로 분석된다.
• AI 오용 문제가 사이버 보안을 넘어 군사·지정학적 안보 이슈로 확대되고 있다.

🔹 Brainstorming novel biological attacks with an LLM

• 한 저자가 LLM과 대화하며 AI로 방어되는 미래 도시를 겨냥한 생물학적 공격 시나리오를 탐색한 과정을 공개했다.
• 생성형 AI가 생물학적 위해 가능성을 구체화하는 데 악용될 수 있다는 우려를 제기한다.
• 고위험 분야에서 모델의 안전장치와 사용 감시 체계를 강화해야 한다는 필요성이 커지고 있다.