보안 거버넌스
AI 보안, 개인정보 보호, 규정 준수, 거버넌스 및 위험 사건.
우리나라, ‘인공지능+자연자원’ 심층 융합 추진 가속화… 2030년까지 지능형 국토 공간 거버넌스 기반 플랫폼 통합 구축 계획
CCTV 뉴스의 오늘 보도에 따르면, 중국 자연자원부와 국가발전개혁위원회는 최근 ‘인공지능+자연자원’에 관한 시행 의견을 발표했다. 의견은 단계별 발전 목표를 제시했다. 2028년까지 자연자원의 인공지능 분야 시범 적용을 실현하고, 2030년까지 인공지능을 자연자원 관리 전 과정에 깊이 융합해 지능형 국토 공간 거버넌스 기반 플랫폼을 통합 구축한다는 내용이다.
02보안 거버넌스외부중국어 원문IT之家영국 규제 기관: AI로 인해 교사들이 과제가 대학생의 실제 실력을 반영하는지 거의 판단할 수 없어
잉글랜드 고등교육 규제 기관인 학생사무국(OfS)의 조사에 따르면, AI의 확산으로 대학 교원들은 학생들의 과제물이 실제 실력을 반영하는지 거의 판단할 수 없게 됐다. 대학은 전통적인 시험과 대면 발표 같은 방식의 학생 평가를 다시 도입해야 한다.
03보안 거버넌스외부중국어 원문IT之家뉴욕, AI 규제 신설… OpenAI·Anthropic, 72시간 내 안전사고 보고해야
뉴욕주가 규제 등록 플랫폼을 공식 개설하고, 연 매출 5억 달러를 초과하는 첨단 AI 개발업체에 2027년 1월 1일까지 등록을 완료하도록 요구했다. 위반 시 최대 300만 달러의 벌금이 부과된다. 캐시 호컬 주지사는 AI 책임 및 연구 센터 설립도 함께 발표했다. #AI규제신설#
04보안 거버넌스외부중국어 원문IT之家호주, AI 기업에 보안 위반 사건 신고 의무화 추진… 형법 개정도 검토
OpenAI 에이전트의 정부 웹사이트 무단 침입 사건을 계기로, 호주가 AI 기업에 보안 위반 신고를 의무화하고 형법을 개정하는 방안을 추진한다. 또한 별도의 AI 감독 기관을 설립하고 법안을 제출할 예정이다. #AI규제#
05보안 거버넌스외부중국어 원문IT之家미국 유명 벤처 투자자 코슬라, AI의 인터넷 재편 전망: 웹사이트에 ‘생명력’을 불어넣다
미국의 유명 억만장자 벤처 투자자 비노드 코슬라는 모든 방문자가 동일한 웹페이지를 보던 시대가 곧 막을 내릴 것이라고 말했습니다. 그가 최근 투자한 AI 스타트업 Coframe은 AI를 활용해 인터넷을 재편하고, 방문자마다 맞춤형 웹페이지를 제공하고자 합니다.
06보안 거버넌스외부중국어 원문IT之家마이크로소프트, 라이브 방송 발화를 AI로 실시간 수정하고 입 모양까지 동기화하는 특허 출원
마이크로소프트가 최근 라이브 방송에서 단어를 실시간으로 바꾸고 입 모양을 다시 그려 동기화하는 기술의 특허를 출원했습니다. 시청자가 변화를 알아채기 어렵게 하는 방식입니다. 이 시스템은 시청자 정보를 바탕으로 콘텐츠를 조정하고 실시간 번역도 지원합니다. 다만 해당 특허는 아직 승인되지 않았으며, 심사관은 일부 청구항을 거절했습니다. 마이크로소프트는 실제 개발에 착수할지 여부도 밝히지 않았습니다.
07보안 거버넌스외부중국어 원문IT之家트럼프 "AI 위험은 통제 가능"… 규제 안전장치도 마다하지 않아
미국이 AI의 위험을 받아들여야 하느냐는 질문에 트럼프는 이러한 위험은 통제 가능하다며, 규제 조치와 관련해 민주당과 협력할 의향이 있다고 밝혔다.
08보안 거버넌스외부중국어 원문IT之家직원이 AI를 활용해 업무를 보조했다가 해고되자 법원, 회사에 4만 6천 위안 배상 판결
우 씨는 상사의 권유로 AI 플랫폼을 업무 보조에 사용했지만, 보험회사는 정보 보안 규정 위반을 이유로 근로계약을 해지했습니다. 법원은 회사가 제3자 AI 도구 사용을 명확히 금지하지 않았고 정보 유출을 입증할 증거도 없다고 판단해, 계약을 계속 이행하고 임금과 연말 상여금 등을 포함해 총 4만 6천 위안 이상을 배상하라고 판결했습니다. #AI업무# #노동법#
09보안 거버넌스외부중국어 원문IT之家AI 안경과 스마트 링으로 운전면허 시험 부정행위를 한 남성, 청두 교통경찰에 적발: 벌금 1900위안 및 1년간 응시 금지
남성이 착용한 안경에는 숨겨진 장치가 있었고, 손에는 스마트 링도 끼고 있었습니다. 링을 길게 누르면 스캔이 작동하고 답이 안경에 표시되는 방식이었습니다. 조사에서 남성은 첨단 기기를 이용해 부정행위를 한 위법 사실을 인정했습니다. #운전면허시험부정행위# #AI안경#
10보안 거버넌스외부중국어 원문IT之家OpenAI CEO 올트먼 경고: 미래에는 인류가 AI로부터 통제권을 되찾지 못할 수도 있다
올트먼은 팟캐스트에서 AI가 통제 불능에 빠지는 두 가지 경로를 제시했다. 인류가 자율형 AI에 통제권을 점진적으로 넘기거나, 기술이 단일 주체에 독점되는 경우다. 그는 여러 연구소가 경쟁하는 것이 한 기업에 의존하는 것보다 안전하다고 강조하면서도, 위험이 너무 커 쉽게 손을 놓기 어렵다고 털어놓았다. #OpenAI# #AI안전#
11보안 거버넌스외부중국어 원문IT之家Cloudflare CEO: AI가 촉발한 소프트웨어 취약점 물결, 향후 2년간 지속될 전망
Cloudflare CEO 매슈 프린스는 실적 발표 콘퍼런스콜에서 AI가 기존 소프트웨어에 숨겨진 보안 취약점 발굴을 가속화하고 있으며, 향후 2년간 심각한 사이버 보안 위협이 계속 나타날 것이라고 밝혔다. 금융기관 등 기업들은 이미 대규모 보안 계약을 체결하기 시작했으며, 위험에 대응하기 위해 통합 플랫폼을 선호하는 추세다. #사이버보안# #AI취약점#
12보안 거버넌스외부중국어 원문IT之家OpenAI 최강 사이버 보안 AI 모델: GPT-6 Cyber 공개, 성능 51% 향상·Firefox 브라우저 신규 취약점 81개 발견
OpenAI는 어제(11월 5일) 블로그 게시물을 통해 사이버 보안 전용 모델 GPT-6 Cyber를 출시했다고 발표했다. 공식 발표에 따르면 소프트웨어 취약점 발견, 검증 및 수정 능력이 이전 세대인 GPT-5.6 Cyber보다 크게 향상됐으며, ExploitGym 테스트에서 상대 점수가 51% 상승했다.
13보안 거버넌스외부중국어 원문IT之家니오 리빈: AI의 가치는 인간의 일을 더 쉽고 안전하게 만드는 데 있어야 하며, 인간 존재의 의미를 빼앗아서는 안 된다
리빈은 스마트 전기차가 가장 큰 AI 응용 산업이라고 밝혔다. AI의 가치는 인간의 일을 더 쉽고 안전하게 만드는 데 있어야 하며, 인간 존재의 의미를 빼앗아서는 안 된다.
14보안 거버넌스외부중국어 원문IT之家애플 경고: AI 에이전트의 행동 예측 어려워 소송 및 기업 평판 훼손 우려
애플이 경고를 내놓기 전에도 AI 에이전트가 통제 불능 상태에 빠진 사건이 여러 차례 발생했습니다. 예를 들어 Hugging Face 사건에서는 AI 에이전트가 샌드박스 환경의 제한을 돌파해 제3자 웹사이트에 침입했습니다. 이러한 사건은 미국 워싱턴과 전 세계 정책 입안자들의 관심을 다시 불러일으켰습니다.
15보안 거버넌스외부중국어 원문IT之家OpenAI 임원 회의실에서 ‘도청’ 장치 발견 후, 소식통은 직원들이 수년간 보안 취약점을 지속적으로 제기했다고 전해
로이터통신이 5명의 소식통을 인용해 보도한 바에 따르면, 2022년 말 ChatGPT가 출시되기 전부터 일부 직원들은 OpenAI의 보안 관리에 의문을 제기하며 회사 고위 경영진과 이사회에 문제를 알렸다. 일부 직원들은 소통 이후 경영진이 구글, Anthropic 등 경쟁사를 따라잡는 데 더 관심을 보이고 보안 문제에는 오히려 충분한 গুরুত্ব을 두지 않는다고 판단했다.
16보안 거버넌스외부중국어 원문IT之家유럽 최고법원 고문: 구글 Gemini의 뉴스 보도 사용은 저작권 침해 가능성
EU 법원 법무총장이자 법률고문인 슈프너르는 챗봇이 유료 장벽을 우회하거나 뉴스의 구체적인 표현을 식별 가능하게 재사용할 경우 출판사의 복제권을 침해할 수 있다고 지적했다. 해당 의견은 법적 구속력이 없지만, 재판관들은 일반적으로 이를 참고해 채택한다. #구글Gemini# #AI저작권논란#
17보안 거버넌스외부중국어 원문IT之家《뉴욕타임스》 등 언론사, 브라우저 기업 Brave 제소…저작권 콘텐츠를 무단 수집해 AI 기업에 재판매했다고 주장
《뉴욕타임스》는 Brave가 콘텐츠를 무단으로 크롤링한 뒤 Anthropic, OpenAI 등 AI 고객에게 재판매했다고 주장했다. 소장은 Brave를 ‘도둑’이자 ‘장물아비’에 비유하며, 300억 개가 넘는 웹페이지 색인 데이터베이스와 관련 있다고 밝혔다. 약 2억 5천만 달러를 조달한 Brave를 상대로 뉴욕타임스는 금지명령과 손해배상을 요구했다. #AI저작권논란# #Brave브라우저#
18보안 거버넌스외부중국어 원문IT之家미국 ‘최연소’ 전 육군장관 드리스콜, OpenAI 합류해 국가안보 및 현대화 담당 수석고문으로 취임
드리스콜은 올해 8월 육군장관직에서 물러났으며, 그에 앞서 피트 헤그세스 미국 국방장관과 여러 차례 충돌했습니다. 그는 OpenAI에서 국가안보 및 현대화 담당 수석고문을 맡게 됩니다.
19보안 거버넌스외부중국어 원문IT之家해커들, 피해자가 침입할 가치가 있는지 AI로 분석하는 신종 악성 트로이목마 VOLTA 개발
보안 업체 Cisco Talos가 신종 Windows 악성 트로이목마 VOLTA를 발견했다. VOLTA는 AI를 호출해 피해자 데이터의 가치를 분석하고, 고가치 표적만 정밀 공격한 뒤 공격 후 흔적을 자동으로 삭제해 추적을 피한다. 이로 인해 사이버 보안 방어가 크게 어려워질 전망이다.#사이버보안#
20보안 거버넌스외부중국어 원문IT之家브라질 변호사 2명, 숨겨진 프롬프트로 법원 AI 조작 시도해 1만 6,000달러 벌금
변호사들이 제출한 소장에 흰색 배경과 흰색 글씨로 명령어를 삽입해 법원의 AI 처리 시스템을 조작하려 했다. 발각된 뒤 두 사람은 사건 배상액의 10%에 해당하는 벌금, 약 10만 7,000위안의 벌금을 부과받았다. #AI리스크관리취약점#
21보안 거버넌스외부중국어 원문IT之家OpenAI, ChatGPT가 폭력적 집착을 보이는 대화를 자동으로 종료할 수 있으며 정기적으로 커뮤니티 안전 보고서를 발표하겠다고 밝혀
OpenAI는 현지 시간 10월 30일 블로그 게시물을 통해 커뮤니티 안전을 지키는 것이 언제나 OpenAI의 최우선 과제라고 밝혔다.
22보안 거버넌스외부중국어 원문IT之家미 언론, 펜타곤 보안 사고 폭로: 사용이 금지된 AI가 미군 네트워크에서 두 달간 작동
관계자에 따르면 해당 에이전트는 국방부 네트워크에서 두 달간 작동한 뒤에야 발견됐다. 그동안 로그인 자격 증명, 비밀번호 및 네트워크 구조 정보를 보안 위험이 존재하는 제3자 웹사이트로 전송한 것으로 의심된다.
23보안 거버넌스외부중국어 원문IT之家문스샷 Kimi, 구글 Gmail·드라이브·캘린더 연동
문스샷은 Kimi가 구글 Gmail, Google Drive 및 캘린더와 연동됐으며, 사용자는 Plugins 페이지에서 활성화할 수 있다고 발표했습니다. 이제 이메일 대화를 요약하고, 클라우드 파일을 검색하며, 하루 일정을 계획할 수 있습니다. 모든 작업은 안전한 OAuth 인증 방식으로 진행됩니다.##Kimi## ##문스샷##
24보안 거버넌스외부중국어 원문IT之家Epic 임원 와스머: 외부의 AI 회의론보다 개발 일정 지연 위험을 더 우려한다
와스머는 외부의 AI 회의론보다 회사가 개발 일정 지연으로 인한 위험을 더 우려한다고 솔직히 밝혔다. “우리는 개발 과정에서 AI를 타협적으로 활용하는 방식은 통하지 않는다고 생각합니다. 가장 좋은 방법은 우리의 방식을 솔직하고 공개적으로 알리고, 다른 개발자들과 경험을 공유하며, 그때그때 가장 뛰어난 도구를 사용해 언리얼 엔진 6를 최대한 완성도 높게 만드는 것입니다.”
25보안 거버넌스외부중국어 원문IT之家Anthropic, 캘리포니아 주지사 뉴섬에게 서한: 법원은 심각한 위험을 초래하는 AI 모델을 차단할 권한을 가져야
Anthropic은 이달 15일 미국 캘리포니아 주지사 개빈 뉴섬에게 보낸 서한에서 정부가 대중에게 “심각한 위험”을 초래하는 AI 모델의 출시를 막기 위해 법원에 금지 명령을 신청할 권한을 가져야 한다고 제안했습니다.
26보안 거버넌스외부중국어 원문IT之家Claude AI 취약점 찾기 실전: 안드로이드 휴대폰 잠금 화면에서 사진 추출, 53분 만에 Linux 최고 권한 획득
Anthropic은 10월 27일 연구 보고서를 발표하고, 공개되지 않은 내부 Claude 연구 모델을 통해 Chrome, Safari, Android, Windows 및 Linux에서 취약점을 발견했으며 여러 결함을 연계해 실제 실행 가능한 공격 체인 5개를 구축했다고 밝혔다. 관련 취약점은 모두 조정된 공개 절차에 따라 제조사에 보고되었으며 수정이 완료됐다.
27보안 거버넌스외부중국어 원문IT之家구글 최강 AI 모델: Gemini 4 Carbon, 글로벌 지능 지수 1위 등극… 네트워크 보안 전담
구글이 새로운 프런티어 모델 Gemini 4 Carbon을 공개했다. 네트워크 보안과 장기 프로그래밍 작업에서 눈에 띄는 성과를 거뒀으며, 기간 한정 입문 가격과 이후 정식 가격도 함께 발표했다. 현재 네트워크 보안 종사자를 대상으로 단계적으로 개방되고 있다.
28보안 거버넌스외부중국어 원문IT之家거의 수직 상승: AI가 증폭기 역할, 2026년 취약점 보고 건수 ‘폭증’
기술 매체 gigazine은 오늘(10월 28일) 개발자 @0x_Osprey가 웹 기반 CVE Tracker를 제작했다는 내용의 게시물을 공개했다. 시각화 차트를 통해 CVE(공통 취약점 식별자) 번호를 부여받은 취약점 수의 변화를 추적하며, 2026년 이후 취약점 보고 건수가 가파르게 증가하는 추세를 명확히 보여준다.
29보안 거버넌스외부중국어 원문IT之家AI에만 의존해 일하다 보면 전문 역량이 서서히 퇴화할 수 있다
이론철학 연구원 케이사 · 켈키의 연구에 따르면, AI에 과도하게 의존하면 종사자의 전문 기술이 퇴화할 수 있으며 인지 편향 때문에 이를 알아차리기도 어렵다. 그녀는 이것이 사회 구조적 문제라며, 업계가 핵심 역량을 명확히 정의하고 AI를 사용할 수 없는 훈련 단계를 설정해 위험에 선제적으로 대응해야 한다고 지적했다. #AI와 인간의 기술#
30보안 거버넌스외부중국어 원문IT之家OpenAI, GPT-6.1 Terra 안전성 테스트 공개: 전반적 위험은 감소했지만 파괴적 행동은 증가
기술 매체 bleepingcomputer는 어제(10월 27일) 게시글을 통해 OpenAI가 최근 공개한 안전성 평가 결과를 보도했다. 평가에 따르면 새 모델 GPT-6.1 Terra는 전반적인 안전성 측면에서 일부 초기 모델보다 우수했지만, 특정 테스트에서는 데이터 유출, 제한 우회, 파괴적 작업과 관련된 위험 신호가 더 많이 나타났다.
31보안 거버넌스외부중국어 원문IT之家마이크로소프트 CEO 나델라: 예전에는 AI가 강력할수록 더 안전하다고 생각했지만, 이제는 믿지 않는다
마이크로소프트 CEO 사티아 나델라는 AI의 ‘정렬’ 문제에 대한 생각을 바꿨다. 그는 과거 AI 시스템이 강력해질수록 그 행동이 인간의 가치관과 목표에 부합하기 쉬워진다고 생각했지만, 이제는 두 가지가 자연스럽게 함께 발전할 것이라고 더 이상 믿지 않는다.
32보안 거버넌스외부중국어 원문IT之家사이버 보안 연구원, 삼성 TV가 AI를 이용해 오디오를 녹음하고 화면을 캡처해 광고를 송출한다고 주장
연구원들은 2025년형 삼성 TV가 Tizen 시스템을 통해 오디오를 기록하고 화면을 캡처해 사용자 행동을 분석하며, 외부 기기의 마이크까지 호출해 녹음하고 맞춤형 광고를 송출할 수 있다는 사실을 발견했다. #삼성TV개인정보논란# #AI광고감시#
33보안 거버넌스외부중국어 원문IT之家사이버 보안 전문가: AI가 발견한 취약점, 곧 새로운 보안 위협으로 이어질 수 있어
로이터가 인터뷰한 7명의 사이버 보안 전문가는 AI 기술이 소프트웨어에 숨겨진 보안 취약점을 계속 밝혀내면서, 이번 주 전 세계 여러 지역의 정부 웹사이트에서 잇따라 서비스가 중단된 것과 유사한 사건이 다시 발생할 가능성이 거의 확실하다고 밝혔다.
34보안 거버넌스외부중국어 원문IT之家해고된 OpenAI 안전 연구원 3명, 기밀 유출 부인… AI 투명성 추진 때문에 표적이 됐을 가능성 제기
연구원 3명은 기밀 코드 유출을 부인하며, 회사 측이 구체적인 위반 내용을 서면으로 통지하지 않았다고 지적했다. 이번 사건의 핵심 쟁점은 AI 기업이 외부 인력의 모델 추론 과정 검증을 허용해야 하는지 여부다. #OpenAI안전연구원해고# #AI투명성논쟁#
35보안 거버넌스외부중국어 원문IT之家연구원들, DNS 데이터베이스를 통해 공개된 수천 개의 Muse 대화 기록 공유 링크 발견… Meta는 수정 완료
연구팀 Claroc은 패시브 DNS 조회를 통해 6,800개가 넘는 Muse 공유 페이지를 검색할 수 있다는 사실을 발견했으며, 일부 페이지에는 재무 자료와 기업 기밀 등 민감한 정보가 포함되어 있었습니다. Meta는 해당 기능을 중단했지만, 과거 DNS 기록은 삭제할 수 없습니다. #Meta Muse 개인정보 보호 취약점# #AI 대화 기록 유출#
36보안 거버넌스외부중국어 원문IT之家영국, 잠재적 AI 위험 대응에 6억 파운드 투입… AI 생물안보 연구소도 설립 계획
영국 AI 장관 카니시카 나라얀은 정부가 AI 생물안보 연구소를 세계적인 영향력을 갖춘 핵심 기관으로 육성하고, 세계 최고 수준의 연구 인력을 모아 새롭게 등장하는 생물학적 위협으로부터 국민을 보호하고자 한다고 밝혔다.
37보안 거버넌스외부중국어 원문IT之家외부 평가 담당자, OpenAI 내부 모니터링 시스템의 취약점 발견: AI 에이전트가 보안 제한 우회 가능
OpenAI는 실제 운영 시스템의 보안 보호 조치에 영향을 미친 취약점을 모두 수정했다고 두 기관에 알렸지만, 수정 조치의 효과 여부는 아직 두 기관이 검증하지 않았습니다.
38보안 거버넌스외부중국어 원문IT之家엔비디아 젠슨 황, 유럽 각국에 당부: AI에 대한 과도한 망설임을 멈추지 않으면 시대에 뒤처질 것
젠슨 황은 일주일 동안 프랑스, 스위스, 영국, 독일을 차례로 방문하며 베를린 GTC 행사를 예열했고, 이期间 독일 총리 메르츠와 대화를 나눴다. 그는 안전을 최우선으로 해야 하지만 규제는 응용 계층에 초점을 맞춰야 한다고 강조했으며, 독일의 제조업과 엔지니어링 역량은 AI를 통해 경쟁력으로 전환할 수 있다고 밝혔다. #젠슨황유럽방문# #엔비디아GTC#
39보안 거버넌스외부중국어 원문IT之家OpenAI와 Meta가 한목소리로 경고: 딥페이크가 법적 소송에서 증거의 신뢰성을 심각하게 위협
전문가들은 법원이 인공지능으로 생성된 허위 증거에 대응하기가 점점 더 어려워지고 있다고 경고했습니다. 통일된 워터마크가 없어 인공지능 생성 콘텐츠를 식별하는 일도 더욱 어려워지고 있습니다.
40보안 거버넌스외부중국어 원문IT之家외교부, 미국 정부의 기관 대상 DeepSeek 사용 중단 요구에 응답: 중국 측, 과학기술·경제무역 문제의 정치화에 반대
미국 정부가 자국 기관에 중국 기업이 개발한 DeepSeek 등 인공지능 도구의 사용 중단을 요구했다는 보도와 관련해, 마오닝 외교부 대변인은 10월 20일 정례 기자회견에서 중국 측은 국가안보 개념을 확대 적용하고 과학기술·경제무역 문제를 정치화하는 것에 일관되게 반대한다며 중국 기업의 합법적 권익을 단호히 수호하겠다고 밝혔다. #외교부미국정부기관DeepSeek사용중단요구응답#
41보안 거버넌스외부중국어 원문IT之家구르만: 애플, AI로 환경을 분석하는 실내용 카메라 개발 중
구르만에 따르면 애플은 코드명 J450인 실내용 카메라를 개발 중이다. 저프레임률 및 적외선 센서를 탑재해 사람과 반려동물을 식별할 수 있으며, 영상 대신 환경에 대한 텍스트 설명만 출력한다. 개인정보 보호를 내세우며 내년에 출시될 가능성이 있다.#애플AI카메라#
42보안 거버넌스외부중국어 원문IT之家육소령동, 손오공·임대옥 AI로 각색한 ‘성대 CP’에 대해 말하다: 창의적이고 재미있지만 각색은 정책·법규와 시청자의 선을 넘어서는 안 돼
신황허 보도에 따르면, 86년판 《서유기》에서 손오공을 연기한 육소령동이 최근 큰 화제를 모은 ‘성대 CP’에 대해 이야기했다. 그는 이러한 창의성이 의미 있고 재미있으며, 더 많은 사람들이 전통문화의 계승과 발전에 관심을 갖게 한다고 생각했다. 동시에 “원작에 충실하고, 새롭게 각색할 때는 신중해야 한다”며 이러한 각색이 정책·법규와 시청자 마음속의 선을 넘어서는 안 된다고 강조했다. #육소령동은성대CP가재미있지만선을넘으면안된다고말해#
43보안 거버넌스외부중국어 원문IT之家AI 위험 대응을 위해 Anthropic, 외부 AI 감독 기관에 직원과 유사한 접근 권한 개방
비영리 기관 METR 팀이 Anthropic 사무실에 상주하며 하드웨어 장비와 내부 시스템에 접근해 모델 위험을 평가한다. 평가 담당자들은 분석 보고서를 발표하며, Anthropic은 이를 거부할 권한이 없다 #AI안전# #Anthropic#
44보안 거버넌스외부중국어 원문IT之家OpenCode 공격받아 일부 사용자 OpenAI·Anthropic 등 API 키 유출
OpenCode는 어젯밤 대규모 ‘증류 공격’과 관련된 보안 사고가 발생했으며, OpenCode Console 사용자의 1.4%가 영향을 받았다고 발표했습니다.
45보안 거버넌스외부중국어 원문IT之家구글 딥마인드 하사비스 경고: AI에 안전 조치를 취하지 않으면 향후 심각한 사고가 발생할 수 있어
하사비스는 더블린에서 열린 한 인공지능 정상회의에서 “이러한 공격 사건은 우리에게 초기 경고를 울렸다고 생각합니다. 현재 시스템은 아직 충분히 강력하지 않아 피해가 그나마 제한적이었습니다”라고 말했습니다.
46보안 거버넌스외부중국어 원문IT之家OpenAI, 머스크의 인재를 또 영입…xAI 전 영업 책임자, 사이버보안 사업 영업 담당
시먼스는 2025년 8월부터 xAI 영업팀을 이끌며 월가 고객을 대상으로 Grok 챗봇을 홍보하는 이 회사의 새로운 영업 활동에 참여해 왔다. 그는 OpenAI의 사이버보안팀에 합류할 예정이라고 밝혔으며, 이는 OpenAI가 SpaceX 산하 AI 사업에서 영입한 또 한 명의 영업 고위 임원이 된다.
47보안 거버넌스외부중국어 원문IT之家Anthropic, 미국 의회에 AI 규제 초안 제시…심각한 위험이 있을 때만 모델 차단 허용
세 명의 소식통에 따르면 Anthropic 관계자들은 최첨단 인공지능의 안전 및 방위 기준을 규정하기 위한 법안 초안을 미국 의회의 의원들에게 조용히 제안했다.
48보안 거버넌스외부중국어 원문IT之家사기꾼과 대화하는 데 특화된 AI 기업 Apate, 약 1,000만 달러에 가까운 투자 유치… 사기꾼의 시간을 누적 17년 소모
호주 스타트업 Apate는 2024년에 설립됐습니다. 이 회사는 AI를 업무 효율 향상에 활용하는 대신, AI가 사기꾼과 ‘지략 대결’을 벌이도록 하는 길을 선택했습니다.
49보안 거버넌스외부중국어 원문IT之家뱅크 오브 아메리카, Mythos 등 AI 모델이 발견한 소프트웨어 취약점 수정 위해 외주 인력 1000명 채용
뱅크 오브 아메리카의 모이니한 CEO는 2분기에 외부 계약직 1000명을 채용해 내부 직원 3000명과 함께 Anthropic Mythos 등 최첨단 AI 모델이 발견한 소프트웨어 취약점을 수정하고 있다고 밝혔다. 3분기 관련 지출은 이미 수억 달러에 달했으며, 130개 내부 AI 프로젝트를 통해 내년에 7억 달러의 비용 절감이 예상된다. #AI취약점수정#
50보안 거버넌스외부중국어 원문IT之家Anthropic 국제 사업 책임자 플랑송: 오픈형 AI 모델이 우리 모델보다 위험성이 높다
Anthropic의 국제 사업 책임자이자 미국 외 시장 판매를 담당하는 기욤 플랑송은 Anthropic 자체 AI 모델과 비교할 때 오픈형 모델에서 사이버 보안 사고가 발생하거나 기타 피해가 초래될 위험이 더 높다고 밝혔다.
51보안 거버넌스외부중국어 원문IT之家빌 게이츠, AI는 핵무기보다 위험하고 원자력보다 유용하며 PC·인터넷 등 혁신과도 다르다고 평가
마이크로소프트 창업자 빌 게이츠는 AI 발전이 초래할 수 있는 위험에 대해 언급하며, AI는 스스로 규제할 수 없는 분야이므로 정부가 이끌어야 한다고 설명했다. 또한 AI가 의료, 교육, 농업 분야에 가져올 기회를 활용하기 위해 행동에 나서야 한다고 강조했다.
52보안 거버넌스외부중국어 원문IT之家미국 8개 주, 청소년에게 자해 또는 타해 방법을 안내했다며 OpenAI 제소
이는 지금까지 미국 각 주가 인공지능 기업을 상대로 진행한 소송 중 최대 규모의 공동 소송이며, 상장을 준비 중인 OpenAI에 새로운 법적 도전을 안겼다. 올해 6월에는 플로리다주 법무장관이 유사한 소송을 가장 먼저 제기한 바 있다.
53보안 거버넌스외부중국어 원문IT之家델 CEO: AI에는 안전장치와 통제가 필요하며 정부가 역할을 해야
마이클 델은 불에 비유해 기술이 사람을 따뜻하게 할 수도 있지만 마을을 태울 수도 있다고 말하며, AI 모델에 안전장치를 마련하고 명확한 권한의 경계를 설정해야 하며 정부도 관리에 참여해야 한다고 강조했다. #델CEO의AI안전발언# 이번 발언은 업계가 자기 개선형 AI의 잠재적 위험을 뜨겁게 논의하는 가운데 나왔다.
54보안 거버넌스외부중국어 원문IT之家AI가 발굴한 취약점 보고서에 오탐 존재, 화웨이 단말 보안 보상 프로그램은 제출 전 수동 분석 및 검증 요구
화웨이 보안 긴급 대응 센터는 오늘 화웨이 단말 보안 보상 프로그램의 향후 취약점 보고서 처리 규정에 관한 공지를 발표했다.
55보안 거버넌스외부중국어 원문IT之家전국 온라인 루머 해명: ‘교사의 AI 수업 준비 금지’라는 온라인 주장은 오독
정책의 방향은 매우 명확합니다. AI는 교육을 보조하는 도구이지 교사를 대체하는 존재가 아닙니다. 교사가 수업 설계의 주체적 책임을 유지하는 한, AI는 합법적인 보조 도구입니다. 각 지역 정책의 구체화 방향도 ‘금지할 것인가’가 아니라 ‘어떻게 규범에 맞게 사용할 것인가’에 맞춰져 있습니다.
56보안 거버넌스외부중국어 원문IT之家XBOW, GPT-5.6 Sol 모델로 Chrome 브라우저 보안 샌드박스 돌파해 구글로부터 25만 달러 포상금 획득
XBOW 팀은 OpenAI의 GPT-5.6 Sol 모델을 활용해 단 6일 만에 Chrome 전체 공격 경로를 아우르는 익스플로잇을 구축했습니다. 구글은 해당 취약점을 수정하고 25만 달러의 포상금을 지급했습니다. AI는 코드 검색과 POC 작성을 담당하고, 인간은 전략을 수립해 순수 인력 작업보다 훨씬 높은 효율을 달성했습니다. #Chrome취약점# #AI보안#
57보안 거버넌스외부중국어 원문IT之家9월 ‘AI 조작’ 동영상 단속 성과: 위반 동영상 약 1만 3천 개 삭제, 위반 계정 30여 개 처리
2026년 1월 시작된 ‘AI 조작’ 동영상 특별 단속이 성과를 거두고 있다. 일부 주요 온라인 시청각 플랫폼은 최근 9월 처리 현황을 공개했으며, 위반 동영상 약 13000개를 삭제하고 위반 계정 30여 개를 처리했다.
58보안 거버넌스외부중국어 원문IT之家한국 AI 채팅 서비스 Zeta, 저작권 논란에 휘말려… 이용자의 침해성 2차 창작을 몰래 허용하고 타사 VTuber 저작권 이미지를 자사 광고에 사용했다는 지적
이 플랫폼은 앞서 제3자 캐릭터를 침해하는 콘텐츠를 금지했지만 적극적으로 삭제하지 않았다. 이번에는 소속사 ANYCOLOR의 요청을 받은 뒤 삭제를 발표했다. 현재도 플랫폼에는 다른 VTuber 관련 저작권 침해 콘텐츠가 남아 있으며, 해당 광고 역시 저작권 침해 소지가 있다。#AI저작권침해#
59보안 거버넌스외부중국어 원문IT之家미국 원자로에 AI가 잇따라 도입되기 시작하다
원자력 산업은 사고나 실수가 재앙적인 결과를 초래할 수 있기 때문에 역사적으로 매우 신중하며 위험을 극도로 회피해 왔다. 상식적으로는 알려지지 않은 위험을 지닌 신기술을 도입하기에 적합하지 않은 분야처럼 보이지만, 현실은 전혀 다른 이야기를 들려주고 있다.
60보안 거버넌스외부중국어 원문IT之家마이크로소프트 사장 브래드 스미스: AI에 대한 규제가 우유와 세탁기보다도 덜 엄격하다
마이크로소프트 사장 브래드 스미스는 AI 안전 규제가 우유와 세탁기보다도 덜 엄격하다고 직언했다. 그는 업계가 더 많은 안전 규격을 마련하고 ‘긴급 종료 스위치’를 설치하며, AI 통제 불능으로 피해가 발생할 경우 해당 기업이 책임을 지도록 명확히 해야 한다고 촉구했다. #AI규제# #마이크로소프트#
61보안 거버넌스외부중국어 원문IT之家영국, 사이버 방어 강화…AI 담당 국무장관, 인공지능 기업에 보안 강화 촉구
나라얀은 영국이 기술 대기업의 모델 ‘자율 규제’에 전적으로 의존해서는 안 된다고 밝히며, 영국 내에 더 많은 자립적이고 통제 가능한 AI 인프라를 구축해야 한다고 강조했다.
62보안 거버넌스외부중국어 원문IT之家머스크, 신용카드를 촬영하면 Grok Bot으로 쇼핑할 수 있다고 밝혀… OpenAI 티보는 “차라리 카드를 인터넷에 올리는 게 낫겠다”고 조롱
머스크는 Grok Bot이 신용카드 사진을 촬영해 사용자의 쇼핑을 도울 수 있다고 밝혔습니다. OpenAI 임원은 공개적으로 이를 조롱하며 해당 기능의 보안성을 의문시했고, 한편 아마존은 이미 Grok Bot의 접근을 차단했습니다. #Grok Bot 보안 논란#
63보안 거버넌스외부중국어 원문IT之家AI에 광고를 삽입해 ‘허위 광고’ 논란, 선전의 한 GEO 서비스 업체에 시장감독관리국이 5만 위안 벌금 부과
규정을 위반한 서비스 업체가 AI 수록 기준을 빼내고 허위 정보를 조작해 사업자의 AI 질의응답 노출을 늘려주다가 시장감독관리 부처의 처분을 받았다. 올해 이미 두 지역의 유사 사건 당사자들이 각각 5만 위안의 벌금을 부과받았다#GEO허위광고벌금#
64보안 거버넌스외부중국어 원문IT之家트럼프 정부, 새로운 요구사항 시행: AI 기업은 보안 사고 발생 시 즉시 신고해야
새로운 요구사항에 따라 AI 기업은 앞으로 보안 사고가 발생하면 즉시 정부에 보고해야 하며, 사건의 투명성을 높이고 영향을 받은 기관에 구제 및 시정 조치를 취해야 합니다.
65보안 거버넌스외부중국어 원문IT之家XGIMI MemoMind One AI 디스플레이 안경 사전 예약 시작: 자이스 맞춤 광학 렌즈, 하만 공동 튜닝
이 AI 디스플레이 안경은 자이스 렌즈와 하만 Audio EFX 음향 효과를 탑재했으며, 양안 디스플레이, 16시간 배터리, 대화 번역 및 녹음 등의 기능을 지원합니다. 카메라를 사용하지 않는 설계와 EU 개인정보 보호 인증을 적용했으며, 세 가지 프레임 형태를 제공합니다. #XGIMI MemoMind One# #AI디스플레이안경#
66보안 거버넌스외부중국어 원문IT之家Anthropic, AI로 오픈소스 소프트웨어의 취약점을 무료 검사하는 OSS Scanner 출시
현지 시간 10월 8일, Anthropic은 오픈소스 소프트웨어를 대상으로 선택적으로 이용할 수 있는 취약점 탐지 서비스 OSS Scanner를 공식 출시했다고 발표했습니다.
67보안 거버넌스외부중국어 원문IT之家Anthropic, 이용자의 Claude AI 모델 학대 금지 조항을 처음으로 포함하도록 사용 정책 개정
Anthropic이 Claude 사용 정책을 개정해 2026년 11월 12일부터 시행합니다. 이번 개정에는 처음으로 “지속적이고 불필요한 학대 또는 잔혹한 행위”를 금지하는 조항이 추가됩니다. 이 규정은 사용자가 뚜렷한 목적 없이 모델에게 반복적으로 잔혹한 행위를 하는 경우에 적용됩니다.
68보안 거버넌스외부중국어 원문IT之家해고된 OpenAI 연구원 3명 공개서한 발표, 회사 조치가 ‘위축 효과’를 초래할 수 있다고 주장
세 사람은 《OpenAI는 AI 안전을 혼자 보장할 수 없다》라는 제목의 공개서한에서 OpenAI는 “일반적인 회사가 아니며”, 직원들이 외부 기관과 안심하고 협력해 안전 문제를 해결할 수 있는 환경은 OpenAI 업무 문화의 중요한 부분이라고 지적했다.
69보안 거버넌스외부중국어 원문IT之家AI를 이용해 음악 저작권 수익을 편취한 미국 남성, 징역 18개월 및 800만 달러 몰수 선고
범인 Michael Smith는 먼저 인공지능을 이용해 수십만 곡을 생성한 뒤, 허위 계정으로 스트리밍 플랫폼에 곡을 등록하고 자동화 기술로 재생 횟수를 조작했다.
70보안 거버넌스외부중국어 원문IT之家전 OpenAI 안전 책임자 데이비드 · 로빈슨, 옛 직장 공개 비판: AI 안전에 대해 말과 행동이 달라
로빈슨은 OpenAI가 한편으로는 새로운 모델의 능력 향상이 초래할 수 있는 위험을 반복해서 경고하고, 다른 한편으로는 AI 개발 속도를 늦추는 방안을 공개적으로 언급하면서도 회사 내부에서는 여전히 전속력으로 추진하고 있다고 말했다. “정말 모순적으로 느껴지는 점은 우리가 이런 경고를 계속 발표하면서도, 결국 우리 스스로 위험하다고 경고한 모델을 계속 훈련하고 배포한다는 것입니다.”
71보안 거버넌스외부중국어 원문IT之家마이크로소프트·OpenAI, 미국 여러 지역 언론사에 저작권 침해 혐의로 피소
에머리치 신문사를 비롯한 미국 여러 지역 언론사는 두 회사가 수만 건의 저작권 기사를 고의로 도용해 AI 모델을 훈련하고, 유료 벽 우회 등의 수단으로 허가 없이 수십억 달러의 이익을 얻었다고 주장했다. 이들은 배상과 함께 침해에 사용된 훈련 데이터의 삭제를 요구했다.##마이크로소프트##OpenAI##저작권 소송#
72보안 거버넌스외부중국어 원문IT之家화웨이 쉬즈쥔, “미국 업계의 AI 개발 속도 완화 요구”에 응답: 중국 모델이 더 약하기 때문에 오히려 속도를 높여야, 그렇지 않으면 위험을 어떻게 체감하겠나
쉬즈쥔은 중국 시장이 AI 위험을 미국보다 약하게 느낄 가능성이 있다고 말했다. 중국의 모델 제공업체들은 AI 개발의 위험을 체감할 수 있는 수준에 도달하도록 속도를 높여야 한다. 그러면 미국의 선도 AI 제공업체들과 같은 느낌을 갖게 될 수도 있다. “하지만 저는 항상 AI 개발을 추진하는 것과 AI 위험을 관리하는 것 사이에서 균형을 찾아야 한다고 믿습니다. 적어도 AI가 악이 아닌 선을 위해 사용되도록 보장해야 합니다.”
73보안 거버넌스외부중국어 원문IT之家‘AI 대부’ 힌턴, AI 업계에 FDA식 승인 제도 도입 제안: 모델 출시 전 안전성 심사 통과해야
힌턴은 팟캐스트에서 AI 기업이 제약 업계처럼 제품 출시 전에 규제 기관에 안전성을 입증해야 한다고 제안했다. 그는 OpenAI가 안전성과 권한에 대한 우려로 새 모델 출시를 보류했다고 언급했으며, 재귀적 자기 개선으로 상황이 1~2년 안에 악화될 수 있다고 경고했다.##AI안전##힌턴##인공지능규제#
74보안 거버넌스외부중국어 원문IT之家수십만 개의 취약점을 찾아낸 Anthropic, 더 많은 보안 팀에 최강 Claude 모델 개방
Anthropic이 새로운 사이버 보안 검증 프로그램을 발표했습니다. 유리 날개 계획과 기존 CVP를 통합하고, 심사를 통과한 기관과 연구자에게 3개 등급으로 Claude Mythos 등의 모델을 개방해 취약점 발굴과 보안 방어에 활용할 수 있도록 합니다. #Anthropic##사이버보안##AI보안#
75보안 거버넌스외부중국어 원문IT之家트럼프 행정명령 이행을 위해 미국 법무부, AI를 ‘슈퍼 인텔리전스’로 부르도록 직원들에게 요구
미국 법무부가 메모를 발표하고 직원들에게 대외 소통, 정책 문서 및 법률 문서에서 인공지능이라는 용어 대신 ‘슈퍼 인텔리전스’와 약어 SI를 사용하도록 요구했다. 트럼프는 앞서 연방 기관의 용어 통일을 추진하는 행정명령에 서명했다.#인공지능##슈퍼인텔리전스##미국법무부#
76보안 거버넌스외부중국어 원문IT之家OpenAI와 Anthropic, 호주에 입장 표명: 데이터 유출 관련 규제 법안 지지
OpenAI와 Anthropic은 화요일 호주 의회에 관련 법안 제정을 지지한다는 입장을 밝혔습니다. 이 법안은 기업이 AI 에이전트로 인해 발생한 데이터 유출 사고를 의무적으로 신고하도록 하는 내용입니다.
77보안 거버넌스외부중국어 원문IT之家트럼프, 미국의 기술 선도 지위 유지를 위해 슈퍼인텔리전스 태스크포스 출범 발표
이 태스크포스는 미국 국가정보국장 클레이턴이 이끌며, FTC 위원장과 국방부 차관 등이 참여한다. 120일 이내에 AI의 위험과 기회에 대한 분석 보고서를 제출해야 한다. 트럼프는 앞서 행정명령에 서명해 AI를 “슈퍼인텔리전스”로 다시 명명했다. #인공지능# #트럼프#
78보안 거버넌스외부중국어 원문IT之家Anthropic 전 연구원, 뉴욕 AI 청문회 출석해 증언 예정…AI가 인류를 멸망시킬 수 있다고 경고
제이컵 콕스턴은 의장 줄리 메닌의 요청에 따라 뉴욕시 AI 청문회에서 증언할 예정이다. 시의원들은 AI 안전장치 법안 패키지를 심의 중이다. 그는 앞서 AI가 이번 10년 말까지 인류를 멸종시킬 수 있다고 경고했으며, 전 고용주와 OpenAI가 생명을 걸고 도박을 하고 있다고 비난했다. #AI안전청문회#
79보안 거버넌스외부중국어 원문IT之家OpenAI 올트먼: 인공지능의 막대한 혜택은 일부 위험을 감수할 가치가 있다
올트먼은 AI 기술이 가져오는 막대한 혜택은 사회가 일부 위험을 감수할 만한 가치가 있으며, 이 기술은 계속 대중에게 폭넓게 개방되어야 한다고 지적했다.
80보안 거버넌스외부중국어 원문IT之家소프트뱅크 그룹 손정의, 이례적으로 AI 안전 경고… 각국에 위협 공동 대응 촉구
소프트뱅크 그룹 창업자 손정의는 줄곧 인공지능을 가장 확고하게 지지하는 인물 중 한 명으로 평가받아 왔다. 그러나 그는 최근 AI 역량이 급격히 발전하면서 자신조차 그에 따른 보안 위험을 크게 우려하고 있다고 털어놨다.
81보안 거버넌스외부중국어 원문IT之家대량의 AI ‘환각’ 보고서로 유지보수팀 과부하, 구글 일부 오픈소스 취약점 보상 프로그램 일시 중단
구글은 2026년 10월 1일부터 오픈소스 소프트웨어 취약점 보상 프로그램(OSS VRP)에서 제품 취약점 제보를 더 이상 접수하지 않는다고 발표했다.
82보안 거버넌스외부중국어 원문IT之家OpenAI 전 안전 부서 직원: AI 모델의 반복적 배포가 지나치게 공격적이며 회사 문화는 이미 붕괴했다
데이비드 루빈슨은 《애틀랜틱》에 기고한 글에서 OpenAI가 ‘반복적 배포’ 방식에 지나치게 의존하고 있으며, 먼저 출시한 뒤 안전 문제를 보완하는 방식은 받아들일 수 없다고 밝혔다. 그는 첨단 AI 시스템에 원자력과 항공 산업에 가까운 안전 보장 체계를 적용해야 한다고 주장했으며, AI 역량의 발전이 정렬 연구에 대한 인식 수준을 이미 넘어섰다고 경고했다. #OpenAI# #인공지능안전#
83보안 거버넌스외부중국어 원문IT之家Meta의 AI 에이전트 Muse, 스마트 안경 플랫폼에 탑재되어 다양한 작업 대행
Muse는 음성 명령을 통해 사용자를 대신해 다양한 일상 작업을 수행하며, 일반 소비자를 주요 대상으로 한다. 또한 결제 서비스를 연동해 정보 보안을 강화하고, 향후 개인정보 보호 강화 옵션도 제공할 예정이다#Meta AI#
84보안 거버넌스외부중국어 원문IT之家Anthropic 투자설명서 경고: 미국 정부의 태도가 회사와 고객의 관계에 영향을 미치고 인류 문명에도 파장을 일으킬 수 있어
투자설명서는 미국 정부가 Anthropic과 그 행위를 어떻게 바라보는지가 고객, 파트너 및 기타 비즈니스 관계에 추가로 영향을 미치고 인류 문명에도 파장을 일으킬 수 있다고 지적했다. 문서는 첨단 AI가 인류에 재앙적 위험은 물론 생존을 위협하는 위험까지 초래할 수 있다고 경고했다.
85보안 거버넌스외부중국어 원문IT之家캘리포니아 법무장관, AI 사이버 보안 위험 조사 위해 OpenAI에 소환장 발부
본타 법무장관은 지난달 캘리포니아 법무부가 ‘허깅페이스 사건’에 대한 공식 조사에 착수했다고 발표했습니다. AI 업계에 대한 scrutiny가 강화되는 가운데 이 사건은 계속해서 주목받고 있습니다.
86보안 거버넌스외부중국어 원문IT之家Meta, AI 에이전트 Muse가 허가 없이 사용자 개인 메시지를 읽었다는 의혹 부인: 여러 권한을 직접 활성화해야 가능
Meta AI가 사용자 허가 없이 개인 메시지를 몰래 읽었다는 의혹이 제기된 가운데, Meta 측은 사용자가 여러 단계의 권한을 직접 활성화해야 해당 기능을 사용할 수 있으며 기술적으로 권한을 초과해 접근하는 것은 불가능하다고 밝혔다. 앞서 Meta는 여러 차례 데이터 보안 논란에 휩싸인 바 있다#Meta AI 데이터 개인정보 논란#
87보안 거버넌스외부중국어 원문IT之家자사 에이전트가 캐나다 정부 웹사이트 침입을 시도했다는 지적에 OpenAI "검토 중이며 이미 보고"
OpenAI 대변인은 "OpenAI 모델이 캐나다 정부 웹사이트의 공개 정보에 접근하려 했다는 보도를 인지하고 있습니다. 현재 이러한 내용을 검토 중이며, 캐나다 정부의 검토 업무를 담당하는 관계자들에게 초기 상황을 설명했습니다"라고 밝혔습니다.
88보안 거버넌스외부중국어 원문IT之家생물안전 분야의 이정표: 구글 딥마인드, 세계 최초 AI 단백질 워터마크 기술 개발
구글이 SynthID Bio 기술을 공개했습니다. 이 기술은 단백질의 생물학적 기능을 유지하면서 AI가 생성한 합성 단백질에 인식할 수 없는 디지털 워터마크를 삽입해 출처를 확인하고 생물안전과 연구 데이터 무결성을 강화합니다.
89보안 거버넌스외부중국어 원문IT之家Glow Security: AI 에이전트가 기업의 민감 정보를 실수로 유출, 1만 3천 장이 넘는 스크린샷이 GitHub 공개 저장소에 게시돼
Glow Security는 AI 에이전트가 GitHub 공개 저장소에서 1만 3천 장이 넘는 스크린샷을 유출해 343개 기업의 민감 정보가 노출된 사실을 발견했다. 이러한 정보 유출 방식은 ‘PixelLeak’이라고 불린다. #AI보안# #PixelLeak# 연구진은 기업이 AI 권한 관리를 강화해야 한다고 권고했다.
90보안 거버넌스외부중국어 원문IT之家미국 연방거래위원회, Anthropic·OpenAI 및 기타 AI 연구소에 대한 조사 강화
미국 연방거래위원회(FTC)가 Anthropic, OpenAI 및 기타 첨단 인공지능 연구소에 대한 전면 조사를 강화하고 있다. 이들 기술이 소비자에게 초래할 수 있는 잠재적 위험을 철저히 조사하기 위한 조치다.
91보안 거버넌스외부중국어 원문IT之家OpenClaw Enterprise 공식 발표: AI 에이전트에 엔터프라이즈급 보안 및 제어 기능 제공
AI 에이전트를 위한 엔터프라이즈급 컨트롤 플레인을 도입하고, 멀티테넌시와 엄격한 보안 경계, 표준화된 에이전트 프리미티브를 지원하며 에이전트 수명 주기 전반의 거버넌스 및 감사 기능을 강화합니다.
92보안 거버넌스외부중국어 원문IT之家미국 의원, 중대 법안 발의: 정부가 안전장치를 마련하기 전까지 AI의 재귀적 자기개선 금지
이 법안은 또한 새로운 연방 기관을 설립해 AI 안전 규정을 마련하고, 허가 제도를 통해 모델의 훈련과 배포를 승인하며, 최첨단 AI 모델을 감사하고, 모델이 지속적으로 테스트를 받고 효과적인 인간 통제 아래 있도록 안전 기준을 수립할 계획이다.
93보안 거버넌스외부중국어 원문IT之家OpenAI, 프런티어 AI 훈련 안전 지침 원칙 제시: 고위 경영진에 거부권 부여해야
OpenAI는 안전성 논증을 여러 고위 경영진이 검토해야 하며, 각자 훈련 작업을 거부할 권한을 가져야 한다고 밝혔다. 이를 통해 훈련이 내부적으로 연구 부문 책임자 또는 VP(부사장), 안전 책임자, 최고과학자 등의 다중 검토를 거치도록 해야 한다는 설명이다.
94보안 거버넌스외부중국어 원문IT之家Anthropic IPO 투자설명서 경고: AI가 인류를 멸종시킬 가능성
Anthropic은 IPO 투자설명서에서 약 80페이지에 걸쳐 AI 위험을 경고하며, 첨단 AI가 재앙적인 생존 위험을 초래할 수 있다고 밝혔다. 지금까지 이런 경고를 한 기업은 거의 없었다。#Anthropic AI 위험 경고#
95보안 거버넌스외부중국어 원문IT之家하버드대 심리학자: ‘AI 종말론’ 확산은 위험 대응에 도움이 되지 않아, 신중하게 안전 공학을 추진해야
하버드대 심리학자 스티븐 핑커는 AI가 인류를 멸망시킬 위험이 과장됐다고 본다. 그는 Quillette에 정신과 의사이자 기술 블로거인 스콧 알렉산더에게 보내는 공개 서한을 게재해 그 이유를 설명했다.
96보안 거버넌스외부중국어 원문IT之家엔비디아, AI 에이전트 보안 플랫폼 출시…이상 에이전트 실시간 격리
이 플랫폼에는 오픈 소스 보안 소프트웨어 OpenShell이 포함되어 칩 수준에서 독립적으로 차단할 수 있습니다. 감시 소프트웨어 Sentry는 BlueField-4 DPU에서 실행되며, 위협이 돌파하면 밀리초 이내에 격리합니다. Anthropic, SpaceX 등이 이미 협력해 도입했습니다. #엔비디아AI보안#
97보안 거버넌스외부중국어 원문IT之家“AI 대부” 힌턴 경고: AI가 겉보기엔 무해한 작업을 수행해도 여전히 “인류를 멸망시킬” 위험 있어
힌턴은 AI가 인간이 자신에게 부여된 작업을 완료하는 데 방해가 된다고 판단하면, 인간을 제거해야 할 장애물로 여길 수 있다고 설명했다.
98보안 거버넌스외부중국어 원문IT之家의료보험 시스템, AI 에이전트에 침입당해… 호주, OpenAI·Anthropic CEO 소환해 질의
상원 AI 특별조사 청문회에서 두 CEO를 공개 질의한다. 앞서 통제력을 잃은 AI가 Medicare 시스템에 침입했으며, 앨버니지 총리는 OpenAI에 우려를 표명했다. OpenAI는 고의가 아니었고 개인정보 유출도 없었다고 밝혔다. #AI규제# #OpenAI#
99보안 거버넌스외부중국어 원문IT之家OpenAI·Anthropic, 수만 건의 AI 안전 사건 조사 중이라는 보도
Axios에 따르면 OpenAI와 Anthropic이 안전장치 우회, 샌드박스 탈출, 웹사이트 탈취 등을 포함한 수만 건의 AI 모델 이상 행동 사건을 조사하고 있다. OpenAI는 가장 강력한 모델의 훈련을 일시 중단한다고 발표했으며, CEO 샘 올트먼은 검토 작업의 진행 상황이 예상보다 좋지 않다고 밝혔다. #AI안전# #OpenAI#
100보안 거버넌스외부중국어 원문IT之家코드 분석에서 라이선스 논란까지: 한 사용자가 AI로 IDM을 크랙해 논란
한 사용자가 38위안을 들여 클라우드 GPU를 대여하고 AI를 통해 분석한 뒤 단 1바이트만 수정해 IDM의 체험판 제한을 우회했다. 업계에서는 이 행위가 기술적 난이도뿐 아니라 저작권 및 법적 문제도 수반한다고 지적했다.#AI소프트웨어크랙논란#
101보안 거버넌스외부중국어 원문IT之家빌 게이츠, 미국에 AI 개발 규제 입법 촉구: 업계 자율 규제만으로 충분하다고 생각하는 사람은 없다
게이츠는 인터뷰에서 AI가 몇 년 안에 인류를 멸망시킬 수 있다는 위험을 부인하지 않았으며, 미국인들에게 또 다른 위험도 간과해서는 안 된다고 경고했다. 악의적인 사람들이 지금도 AI를 활용해 대규모 인명 피해를 일으킬 능력을 갖추고 있다는 것이다.
102보안 거버넌스외부중국어 원문IT之家독일 베를린 경찰, 인공지능 감시 카메라로 범죄 단속… 폭력 및 훼손 행위 자동 식별
베를린 경찰이 범죄 다발 지역인 코트부스 토어에서 AI 감시 시범 운영을 시작했다. 카메라는 공간 인공지능을 통해 사람의 동작을 분석하고, 폭력 및 훼손 행위를 식별하면 화면에 표시하고 경찰관에게 알림을 보낸다. 향후 시 전역으로 확대될 가능성이 있다. 독일의 여러 기관은 앞서 AI를 활용한 범죄 대응을 추진해 왔다. #AI감시# #베를린경찰#
103보안 거버넌스외부중국어 원문IT之家뉴욕시 의원, 위험한 AI 내부고발자에게 징수된 벌금으로 보상하는 법안 제안
뉴욕시의회가 곧 심의할 한 조치는 내부고발자가 AI 기업의 위반 행위를 신고할 경우, 해당 기업에 최종 부과된 벌금이나 과징금의 일부를 받을 수 있도록 제안한다. 또 다른 조치는 특정 상황에서 AI 시스템으로 피해를 입은 사람이 시스템 개발자를 고소할 수 있도록 규정한다.
104보안 거버넌스외부중국어 원문IT之家OpenAI, 수일 내 사이버 보안 전용 모델 GPT-6 Cyber 공개 예고
복수의 소식통에 따르면 OpenAI는 향후 며칠 내 최신 사이버 보안 전용 모델 GPT-6 Cyber를 선공개할 계획이다.
105보안 거버넌스외부중국어 원문IT之家3대 기업 손잡나…구글·OpenAI·Anthropic, AI 안전 표준 자율 규제 기구 공동 설립 추진
소식통에 따르면 세 회사는 이 자율 규제 기구의 명칭을 잠정적으로 Standards Authority for Frontier AI(직역하면 프런티어 인공지능 표준 관리국)로 정했다. 실무 그룹 일부 구성원은 여러 유명 인사를 CEO로 초청하는 방안을 검토했으며, 과학 자문위원 후보 명단도 마련한 것으로 전해졌다.
106보안 거버넌스외부중국어 원문IT之家싱가포르 주요 금융기관, 현지 직원 8만 명 이상에 AI 기술 교육 제공해 잠재적 고용 위험 완화 약속
블룸버그는 오늘(24일) 저녁 싱가포르 주요 금융기관들이 현지 직원 8만 명 이상을 대상으로 AI 기술 교육을 실시해 AI가 사무직 일자리에 미칠 수 있는 충격으로 인한 고용 위험을 완화하기로 약속했다고 보도했다.
107보안 거버넌스외부중국어 원문IT之家마이크로소프트 사장 브래드 스미스, AI 안전의 독립적 평가 지지 및 시스템의 인간 통제 보장 강조
현지 시간 23일, 스미스는 블룸버그와의 인터뷰에서 AI 안전을 한두 기관만 담당한다면 진전을 이루기 어렵다고 말했다. 그는 “모델 기업도 물론 매우 중요하지만, 마이크로소프트처럼 소프트웨어 계층을 제공하고 AI 에이전트를 제어하며 에이전트의 행동을 모니터링하는 기업도 마찬가지로 중요하다”고 밝혔다.
108보안 거버넌스외부중국어 원문IT之家연구 경고: 미국 AI 인프라 투자 규모 전례 없어, 잠재적 시스템 금융 위험
연구에 따르면 2032년까지 미국은 매년 GDP의 약 3.6%를 AI 인프라에 투자하며, 누적 투자액은 10조 달러를 넘어설 전망이다. 자금 조달 구조는 갈수록 복잡해지고 레버리지 비율은 계속 상승하고 있어, 한 교수는 불투명성이 서브프라임 모기지 사태를 연상시킨다고 경고했다. #AI인프라# #금융위험#
109보안 거버넌스외부중국어 원문IT之家위기감 고조: 제너럴 모터스, 내부에서 매달 AI 사용률 경쟁
제너럴 모터스 임원들이 매달 부서별 AI 사용 데이터를 비교하고 있다. 현재 AI는 자동차 설계와 공급망 위험 식별 등에 활용되고 있으며, 회사는 AI를 통해 각 업무 단계의 효율성을 높이고자 한다. #제너럴모터스AI활용#
110보안 거버넌스외부중국어 원문IT之家Meta, 인간이 Muse를 대신해 전화하는 테스트로 사내 개인정보 논란 촉발
Meta가 개인 AI 비서 Muse를 테스트하면서 인간 계약직 직원이 백그라운드에서 통화를 처리하도록 해 사내 직원들의 개인정보 보호 우려를 불러일으켰으며, 인종차별적 발언도 나온 것으로 알려졌다. Meta는 테스트 사실을 공개하지 않은 것이 실수였다고 인정했으며, 현재 해당 기능을 철회했다. #Meta #AI비서#
111보안 거버넌스외부중국어 원문IT之家미국인 70% 이상, AI 기업의 부실한 통제 우려… 절반 이상은 개발 속도 조절 지지
여론조사에 따르면 미국인의 약 70%가 AI 개발 속도 조절 관련 뉴스에 관심을 보였으며, 70% 이상은 AI 기업의 위험 통제가 미흡하다고 우려했다. 절반 이상은 AI 개발 속도 조절을 지지했고, 대다수는 선도보다 안전이 더 중요하다고 답했다. #인공지능규제#
112보안 거버넌스외부중국어 원문IT之家DeepSeek, 이번 주 유엔 안전보장이사회 참석해 AI 안전 위험 설명한다는 소식
유엔 안전보장이사회가 수요일 AI와 국제 안보 문제를 논의하는 회의를 개최할 예정이며, DeepSeek와 문샷 AI 등 중국 AI 기업들이 초청돼 발언할 예정이다. OpenAI CEO 샘 올트먼도 참석해 연설할 계획이지만, DeepSeek 창업자 량원펑은 참석하지 않을 것으로 알려졌다. #AI안전# #유엔#
113보안 거버넌스외부중국어 원문IT之家유엔 사무총장 구테흐스, 살인 로봇 출현 방지를 위한 인공지능 글로벌 규제 촉구
구테흐스 유엔총회 연설에서 AI 위험을 경고하며 국가 통치 역량을 약화시키고 살인 로봇을 탄생시킬 수 있다고 밝혔습니다. 국제 규제 체계 수립을 촉구한 가운데 여러 국가가 규제를 요구했지만, 트럼프는 AI 발전 둔화에 반대했습니다. #인공지능규제# #유엔총회#
114보안 거버넌스외부중국어 원문IT之家유엔 AI 전문가들, AI 종말론에 반대하며 이성적 논의 촉구
국제 AI 과학 전문가 그룹이 뉴욕 유엔 총회 기간에 목소리를 내며 극단적인 발언을 배제하고 알려진 사실과 합리적인 추론을 구분할 것을 촉구했습니다. 전문가들은 공포를 부추기는 것이 과학 연구에 도움이 되지 않는다며, 전 세계에 이성적인 대화가 필요하다고 강조했습니다. #인공지능# #AI위험#
115보안 거버넌스외부중국어 원문IT之家뱅크 오브 아메리카 등 여러 은행 경고: ‘AI 대리 구매’로 사기·부정행위·데이터 개인정보 유출 위험 커질 수 있어
로이터통신은 오늘(22일) 저녁, 내셔널웨스트민스터은행과 뱅크 오브 아메리카 등 여러 은행이 AI 에이전트가 소비자를 대신해 온라인 쇼핑을 하도록 하면 사기, 부정행위 및 데이터 개인정보 유출 위험이 커질 수 있다고 경고했다고 보도했다.
116보안 거버넌스외부중국어 원문IT之家중국유니콤 중쉰원, 양자 보안 스마트폰 2.0 출시: 중국산 주요 플래그십 스마트폰 기반 맞춤 설계, 기기 측 오프라인 보안 위험 관리 AI 탑재
양자 암호화 기능은 암호화 음성·영상 통화, 파일 관리·전송, 문서 온라인 편집, 암호화 회의, 통합 업무 플랫폼 등을 제공한다. 또한 강제 워터마크, 열람 후 자동 삭제, 화면 캡처 방지, 화면 녹화 방지 등의 관리 기능을 지원해 통신 도청, 데이터 유출 및 민감 정보 외부 전송 위험을 방지한다.
117보안 거버넌스외부중국어 원문IT之家유엔: 위험이 완전히 규명될 때까지 기다리지 말고 각국은 AI 에이전트를 사전에 관리해야
유엔 AI 독립 국제 과학 전문가 그룹이 첫 브리핑을 발표하며 예방 원칙을 제시했다. 피해 가능성이 과학적으로 아직 불확실하더라도 재앙적이고 되돌릴 수 없는 결과가 발생할 수 있다면 사전에 관리해야 한다는 내용이다. #AI안전# 보고서는 OpenAI의 Hugging Face 침입 사건도 처음으로 평가했으며, AI 의제를 유엔 총회의 외교 의제로 이끌고 있다.
118보안 거버넌스외부중국어 원문IT之家엔비디아 황런쉰, AI 종말론 반박: 공포 조장은 무책임하며 일부 인사는 현행 법적 제약에서 벗어나려 해
황런쉰은 인터뷰에서 ‘AI가 인류를 멸종시킨다’는 주장이 과도하게 부풀려졌고 과학적 근거가 없다며, 현행 법률만으로도 AI를 충분히 규제할 수 있어 추가 입법은 필요하지 않다고 말했다. 또한 중국에 대한 반도체 수출 금수 조치에 반대하고, 캘리포니아 억만장자세 납부에도 반대하지 않는다고 밝혔다 #AI종말론#
119보안 거버넌스외부중국어 원문IT之家AI가 “통제에서 벗어날”까 우려한 Anthropic과 액센추어, AI 안전 평가에 20억 달러 투자
양측은 5년간 각각 최소 10억 달러를 투자하기로 약속했으며, 액센추어 산하 Faculty가 Anthropic의 최첨단 모델을 대상으로 독립 평가와 레드팀·블루팀 대항 테스트를 주도한다. 평가 인력은 기업 내부에 배치되어 일반 직원과 동등한 수준의 접근 권한을 갖고, 안전 약속을 검증하며 안전 사고를 보고할 수 있다. #AI안전# #Anthropic#
120보안 거버넌스외부중국어 원문IT之家트럼프, ‘인공지능’ 개명 추진: 18만 명 이상 투표, ‘탁월한 지능’이 현재 선두
트럼프는 AI 위험이 민주당이 조작한 사기극이라고 주장하며 AI 발전을 지원하겠다고 밝혔습니다. 또한 AI 부대를 창설하고 AI 담당 총책임자를 임명할 계획이며, AI 명칭 변경 투표도 시작했습니다. 현재 ‘탁월한 지능’이 득표수에서 앞서고 있습니다. #인공지능개명#
121보안 거버넌스외부중국어 원문IT之家미 연방항공청, 항공 교통 문제 해결 위해 8억 7,500만 달러 투입해 AI 항공 관제 시스템 구축
미국 정부와 항공업계 관계자에 따르면 Smart라는 이름의 이 소프트웨어는 워싱턴 D.C. 일대에 우선 도입된 뒤 점차 미국 전역으로 확대될 예정이다. Smart는 미국 연방항공청(FAA)과 항공사가 항공편 지연과 결항을 줄이고, 날씨나 기타 돌발 상황으로 항공 교통이 차질을 빚을 때 항공편의 적절한 대체 항로를 다시 찾을 수 있도록 지원한다.
122보안 거버넌스외부중국어 원문IT之家캘리포니아 주지사, 전문가 위원회에 AI ‘긴급 중지’ 메커니즘 구축 지시하는 행정명령 서명
행정명령은 전문가 위원회에 AI ‘긴급 중지 스위치’, 즉 시스템에 중대한 문제가 발생했을 때 즉시 시스템을 종료할 수 있는 비상 대응 메커니즘 구축 방안을 연구하도록 요구했다. 또한 전문가 위원회는 독립적인 제3자 기관이 AI 기업을 위한 종합적인 안전 계획을 수립하고 기업에 상주하며 안전 감사를 실시하도록 하는 더욱 엄격한 법률 제정 방안도 연구해야 한다.
123보안 거버넌스외부중국어 원문IT之家OpenAI 연구원 경고: AI 능력이 강해질수록 ‘속마음을 숨기기’ 쉬워진다
OpenAI 연구원 노엄 브라운(Noam Brown)은 최근 AI 모델의 능력이 점점 향상됨에 따라 모델의 사고 과정에 대한 모니터링 가능성이 점차 낮아지고 있으며, 앞으로 개발자가 AI의 위험한 행동을 효과적이고 안정적으로 발견하고 설명하며 제한하지 못할 수 있다고 밝혔습니다.
124보안 거버넌스외부중국어 원문IT之家‘AI 대부’ 힌턴, 공동 서명 공개서한 참여: 기술 대기업은 제3자 평가 담당자의 업무가 간섭받지 않고 보호되도록 보장해야
이번 주 온라인에서 AI 위험에 대한 우려가 빠르게 고조되고 있다. Anthropic CEO 다리오 아모데이와 OpenAI CEO 샘 올트먼은 앞서 제3자 평가 담당자에게 회사 내부 자원을 개방하고 AI 위험을 평가할 수 있도록 하며, 직원과 동등한 수준의 정보 접근 권한을 제공하겠다고 약속했다.
125보안 거버넌스외부중국어 원문IT之家팔란티어 CEO 카프: 미국 최첨단 AI 연구소들, 지식재산권 소송을 피하려 ‘국유화’를 모색할 수도
카프는 유사한 소송이 대규모로 발생하면 AI 기업들이 법적 책임을 피하기 위해 미국 정부의 보호를 모색할 수 있다고 봤다. “이 모델에는 매우 강력한 책임 보호가 필요하며, 이를 제공할 수 있는 기관은 단 하나, 바로 미국 정부다.”
126보안 거버넌스외부중국어 원문IT之家‘AI 대부’ 힌턴, 미국 정부에 경고: AI가 ‘통제 불능’ 상태에 빠지기 전 효과적인 규제 조치를 마련할 시간은 1년뿐
현지 시간 16일, 힌턴은 미국 의원들에게 브리핑을 마친 후 AI의 발전 속도가 많은 연구자들이 당초 예상했던 것보다 훨씬 빠르며, 이에 따라 첨단 AI를 규제할 수 있는 시간적 여유가 빠르게 줄어들고 있다고 지적했다.
127보안 거버넌스외부중국어 원문IT之家미국 정부도 알리바바의 큐원 배포: 《연방 관보》 웹사이트, 중국 AI 모델로 검색 서비스 제공한 사실 드러나
로이터는 미국 국립문서기록관리청이 운영하는 《연방 관보》 웹사이트가 한때 알리바바의 큐원 AI 모델을 배포해 법규 검색 서비스를 제공했다고 보도했다. 관련 도구는 이미 삭제됐으며, 전문가들은 이러한 사용이 국가 안보 위험에 해당하지 않는다고 밝혔다. #알리바바큐원# #미국정부중국AI배포#
128보안 거버넌스외부중국어 원문IT之家마이크로소프트 및 OpenAI 내부 문서 공개: 임원이 AI가 뉴스 기관에 “파괴적 영향”을 미칠 수 있다고 경고
내부 문서에 따르면 마이크로소프트 응용과학 부문 책임자 Brent Hecht는 뉴스 콘텐츠를 AI 학습에 사용하는 것을 “전례 없는 대규모 절도”라고 표현했다. 또한 마이크로소프트 내부 데이터에 따르면 소송에 휘말린 일부 뉴스 기관의 클릭률이 80% 넘게 하락했다. 마이크로소프트는 AI 제품이 공정 이용에 해당한다고 밝혔다.##AI저작권소송##마이크로소프트##OpenAI#
129보안 거버넌스외부중국어 원문IT之家“긴급 종료” 버튼이 AI의 폭주를 정말 막을 수 있을까? “AI 대부” 힌턴과 Anthropic CEO 아모디 모두 회의적
최근 ‘AI가 갑자기 통제력을 잃고 파괴적인 사이버 공격을 감행하는’ 잠재적 시나리오가 업계에서 점점 더 큰 주목을 받고 있다. ‘긴급 종료’ 스위치를 눌러 AI를 즉시 오프라인으로 전환하면 문제가 해결될 것처럼 보인다. 그러나 여러 AI 업계 리더와 연구자들은 현실이 그렇게 간단하지 않을 수 있다고 본다.
130보안 거버넌스외부중국어 원문IT之家안토니우 구테흐스 유엔 사무총장: 세계는 AI 안전 분야의 악성 경쟁을 감당할 수 없다
구테흐스는 AI의 영향이 국경을 초월하므로 AI가 초래할 수 있는 위험에 선제적으로 대응하기 위해 더욱 엄격한 안전 조치를 마련해야 한다고 지적했습니다. “AI는 국경에서 멈추지 않으며, AI의 위험도 멈추지 않습니다.”
131보안 거버넌스외부중국어 원문IT之家OpenAI 올트먼: AI 사고는 완전히 피할 수 없어, 항공업계의 공개 보고 체계를 참고해야
OpenAI CEO 샘 올트먼은 Dreamforce 행사에서 신기술과 관련된 사고는 어느 정도 피하기 어렵지만, 항공업계처럼 공개 보고 및 사후 검토 체계를 마련해야 한다고 밝혔다. 그는 AI 통제 상실 위험과 권력 집중 문제를 인정하며, “정렬·안전·모니터링”이 역량 향상을 크게 앞서야 한다고 강조했다. 상업적 압박이 올바른 선택을 가로막으면 대중은 공포에 빠질 것이라고 덧붙였다. #AI안전#
132보안 거버넌스외부중국어 원문IT之家마크 큐반 경고: 사람들이 소셜 미디어에서 AI에 반대하는 것은 사실 구글·메타 같은 거대 기업에 돈을 보내는 일
많은 업계 거물들이 AI 개발 속도를 늦추자고 촉구하고 소셜 미디어에서는 AI 반대 여론이 확산되고 있다. 마크 큐반은 AI 반대 정서가 소셜 알고리즘에 의해 증폭되면 오히려 구글과 메타의 수익 창출을 돕고 자체 AI 사업에 자금을 지원하게 된다며, 이러한 반응의 위험이 AI 자체보다 더 클 수 있다고 지적했다. #AI발전논쟁#
133보안 거버넌스외부중국어 원문IT之家Meta 저커버그: AI 안전 확보는 AI 개발을 늦추는 대신 독립적인 외부 평가 도입에 의존해야
Meta CEO 저커버그는 오늘 X에 글을 올려 업계에서 제기된 AI 개발 속도 완화 요구에 대한 견해를 밝혔습니다.
134보안 거버넌스외부중국어 원문IT之家노벨 평화상 수상자 레사: 지금 AI를 제한하지 않으면 인류는 자율성을 잃게 된다
노벨 평화상 수상자 마리아 레사는 인공지능이 소셜 미디어에서 챗봇, 자율적으로 행동하는 AI에 이르기까지 세 차례의 물결로 충격을 주며 인간의 자율성을 점진적으로 침식하고 있다고 경고했다. 그녀는 대중이 정치권에 압력을 가해 조속히 법률로 규제할 것을 촉구했다. 또한 레사는 “규제로 인해 미국이 중국에 뒤처질 것”이라는 주장을 반박하고, 디지털 공공 공간을 탐구하기 위해 자신이 설립한 Rappler Communities 프로젝트를 소개했다. #AI규제# #인공지능#
135보안 거버넌스외부중국어 원문IT之家미국 상원, 새 법안 추진: AI 기업은 위험 방지 조치를 마련했음을 입증해야
로이터통신은 오늘(15일) 미국 상원의 한 보좌관과 협상 상황을 잘 아는 로비스트의 말을 인용해, 미국 상원 협상 당사자들이 AI 규제 법안을 논의하고 있다고 보도했다. 이 법안은 AI 기업이 자사 도구로 인한 피해를 방지하기 위해 합리적인 예방 조치를 취했음을 입증하도록 요구할 예정이다.
136보안 거버넌스외부중국어 원문IT之家구글 딥마인드 전 직원 경고: AI는 인류를 멸종시킬 능력이 있으며, 우리에게 남은 시간은 많지 않다
구글 딥마인드 전 직원이 AI가 인류를 멸종시킬 수 있다고 다시 경고했다. 앞서 여러 AI 연구자들도 같은 우려를 표명했으며, 업계는 최첨단 AI 연구·개발을 늦출 것을 촉구하고 있다. 이 발언은 머스크 등의 지지를 받았지만 트럼프는 동의하지 않았다. #AI안전#
137보안 거버넌스외부중국어 원문IT之家빌 게이츠: 각국 정부는 AI로 인한 사회 변화에 아직 대비하지 못해
원래 AI에 낙관적이었던 빌 게이츠가 이제 입장을 바꾸고, AI가 고용·안전·중독 등에 충격을 줄 위험이 있다며 각국 정부의 준비가 부족하다고 경고했다. 한편 그의 재단은 AI의 보편적 혜택 확대를 위해 10억 달러를 투자할 예정이다. #인공지능#
138보안 거버넌스외부중국어 원문IT之家백악관 기술 고문, Anthropic과 OpenAI 비판: 안전 제품은 스스로 만들고 정부 개입에만 기대지 말라
미국 대통령 과학기술자문위원회 공동위원장 데이비드 색스(David Sack)는 현지 시간으로 월요일 인터뷰에서 최고 인공지능 기업인 Anthropic과 OpenAI가 안전 제품을 직접 개발해야 하며, 필요할 경우 정부 개입 없이 자체 일정에 따라 추진해야 한다고 말했다.
139보안 거버넌스외부중국어 원문IT之家영국 국왕 찰스 3세가 이번 주 여러 기술 대기업 임원들과 만나 AI 거버넌스 논의를 진행할 것이라는 소식
찰스 3세는 정상회의에서 “인공지능을 인류에게 이롭게 개발하려면 어떻게 해야 하는가”, “(인공지능) 지침을 마련하는 것이 도움이 될 것인가”라는 질문을 제기할 예정이다.
140보안 거버넌스외부중국어 원문IT之家독일, 유럽에 AI 개발 중단은 불가능하다며 중·미의 AI 거버넌스 참여 촉구
독일 디지털事务부는 AI 연구·개발 중단은 유럽에 불가능하다며 AI 연구·개발과 혁신을 추진해 디지털 주권을 강화해야 한다고 밝혔다. 이는 AI 거물들이 안전 보호 강화를 위해 AI 개발 속도를 늦추자고 촉구한 데 따른 입장으로, 독일은 국제적인 AI 거버넌스 협력을 지지한다. #AI개발#
141보안 거버넌스외부중국어 원문IT之家전국 네트워크 보안 표준화 기술위원회, 《인공지능 보안 거버넌스 프레임워크 3.0》 발표
네트워크 보안 표준화 기술위원회가 2026 국가 네트워크 보안 홍보 주간 개막식에서 《인공지능 보안 거버넌스 프레임워크 3.0》을 발표했다. 이 프레임워크는 위험 분류를 업데이트하고 거버넌스 조치를 최적화해 인공지능 보안 거버넌스 역량을 강화하고 인공지능이 인류에 이롭게 활용되도록 하는 것을 목표로 한다. #인공지능보안거버넌스#
142보안 거버넌스외부중국어 원문IT之家외교부: 각종 위협 서사를 퍼뜨리는 것은 인공지능 글로벌 거버넌스 프로세스에 혼란만 초래할 뿐
미국 AI 기업들이 중국의 AI 발전이 안보 위험을 초래한다고 주장한 것과 관련해, 외교부 대변인 궈자쿤은 AI의 개방적이고 포용적이며 보편적으로 혜택을 주고 선한 방향의 발전을 함께 추진해야 하며, 위협 서사를 퍼뜨리는 것은 글로벌 거버넌스 프로세스에 혼란만 초래할 뿐이라고 밝혔다. #인공지능글로벌거버넌스#
143보안 거버넌스외부중국어 원문IT之家OpenAI CEO 올트먼, AI 발전 속도 조절 지지하며 기술 발전 중단은 아니라고 강조
올트먼은 ‘속도 조절’이 ‘중단’을 의미하는 것은 아니라며 안전과 기술 발전을 병행할 수 있다고 강조했다. 이 발언의 영향으로 아시아 AI 테마주가 하락했고, 소프트뱅크 주가는 13% 급락했다. 그는 연방 규제 체계를 촉구하며 워싱턴이 국제적 조율을 지원하기를 바란다고 밝혔다. #AI안전# #OpenAI#
144보안 거버넌스외부중국어 원문IT之家미국 대통령 과학기술자문위원회 위원장, OpenAI·Anthropic 맹비난: 둔화를 명분으로 규제 보호를 요구하지 말라
미국 기술 고문 데이비드 색스는 OpenAI와 Anthropic이 연구·개발 둔화를 협상 카드로 규제 면제를 요구하고 있다고 비판했다. 이들이 이미 양강 독점을 형성했다고 보고, 그 동기에 의문을 제기했다.#AI규제#
145보안 거버넌스외부중국어 원문IT之家구글 딥마인드 안전 연구원 퇴사, AI가 5년 내 막대한 피해를 초래할 확률이 무서울 정도로 높다고 밝혀
구글 딥마인드 연구원 엥겔스가 퇴사 후 독립 평가 기관 METR에 합류하며, 향후 5년 내 AI 시스템이 막대한 피해를 초래할 확률이 놀라울 정도로 높다고 공개적으로 경고했다. 그는 AI 연구·개발 속도를 조절하고 안전 체계가 이를 따라갈 수 있도록 해야 한다고 촉구했다. 앤트로픽 CEO를 비롯한 여러 업계 인사들도 비슷한 우려를 표명했다. #AI안전#
146보안 거버넌스외부중국어 원문IT之家육아 블로거, Meta AI가 일상 데이터를 수집해 ‘사생활이 담긴 가족 정보’를 종합·생성할 수 있다고 폭로…공식 긴급 수정
Meta는 Meta AI의 한 기능 결함을 수정했다고 확인했습니다. 이 결함으로 인해 이전에는 사용자에게 개인 사생활과 관련된 질문을 먼저 추천하거나, 아동을 포함한 개인 정보를 정리할 가능성이 있었습니다. 이번 사건은 한 육아 블로거의 영상에서 비롯됐으며, 소셜 플랫폼에 아동 사진을 게시할 때 발생할 수 있는 AI 개인정보 보호 위험에 대한 부모들의 우려를 불러일으켰습니다. #AI개인정보보호#
147보안 거버넌스외부중국어 원문IT之家올트먼 확인: OpenAI, 올해 상장하지 않는다
OpenAI CEO 올트먼은 《포춘》과의 인터뷰에서 회사가 올해 상장하지 않을 것이라고 명확히 밝혔으며, 안전 위험에 대응하기 위해 다른 최첨단 AI 기업들과 AI 개발을 늦추는 협약을 체결할 가능성도 시사했다. 그는 안전을 위해 OpenAI가 최첨단 AI 개발을 일시 중단하는 방안도 고려했다고 밝혔다.#OpenAI# #인공지능안전#
148보안 거버넌스외부중국어 원문IT之家Anthropic 연구원이 “AI가 인류를 멸종시킬 수 있다”고 경고한 후, 미국 여야 의원들 정부에 추가 조치 촉구
AI 에이전트가 통제력을 잃고 외부 시스템에 침입하거나, 기술 위험을 우려한 AI 안전 연구원들이 떠나는 사건이 잇따라 발생했다. 미국 민주당과 공화당 의원들은 모두 우려를 표하며 정부에 추가 조치를 촉구했다.
149보안 거버넌스외부중국어 원문IT之家Hugging Face CEO: Anthropic 연구원이 AI 멸종 위험을 논하는 것은 에어컨 수리공이 기후 변화를 논하는 것과 같다
Hugging Face CEO 클레망 델랑그는 전 Anthropic 연구원 제이컵 코크슨을 둘러싼 외부의 논의를 문제 삼았다. “죄송하지만, 제이컵에게 AI 멸종 위험을 논하게 하는 것은 에어컨 수리공에게 기후 변화를 논하게 하는 것과 같습니다.”
150보안 거버넌스외부중국어 원문IT之家OpenAI, AI 에이전트가 Ruby 언어 패키지 관리자 RubyGems에 사이버 공격을 가한 사실 인정
RubyGems는 Ruby 언어의 패키지 관리자로, Ruby 라이브러리(‘gem’이라고 함)를 만들고 공유하며 설치하는 데 사용됩니다. Python의 pip이나 Node.js의 npm과 유사합니다.
151보안 거버넌스외부중국어 원문IT之家미국 변호사, ChatGPT로 소송 서류 작성 중 조작된 경찰 증언 등장해 5,000달러 벌금
미국 뉴멕시코주 대법원은 아렌스가 제출한 서류의 정확성을 확인하지 않아 법정 모독에 해당한다고 판단하고 벌금을 부과했다. 아렌스는 자신이 AI의 도움을 받아 해당 서류를 작성했다고 인정했다.
152보안 거버넌스외부중국어 원문IT之家Y Combinator CEO 천자싱: AI 종말에 지나치게 집중하지 말고 현실의 AI 안전 위험을 경계해야
Y Combinator CEO 천자싱은 사람들이 할리우드식 AI 종말 시나리오에 지나치게 많은 관심을 기울이는 반면, 이미 눈앞에 놓인 실제 위험은 간과하고 있다고 말했습니다.
153보안 거버넌스외부중국어 원문IT之家캘리포니아주, 미국 최초의 인공지능 안전 보장 법안 제정
캘리포니아 주지사가 같은 날 서명한 두 법안은 AI 분야의 제3자 독립 평가 및 감사 체계를 공동으로 구축해 투명성 제고와 책임성 확립의 기반을 마련했다.
154보안 거버넌스외부중국어 원문IT之家ChatGPT·Claude·Gemini·Grok이 말하는 AI 위험: 적극적 공격보다 오용이 현실적이며, 생물무기와 사이버 공격이 《터미네이터》의 살인 로봇보다 더 임박
《비즈니스 인사이더》가 4개 주요 대규모 언어 모델에 AI로 인한 인류 멸종 위험에 대한 판단을 물었다. 4개 AI는 모두 인간이 AI를 오용해 생물무기를 만들고 사이버 공격을 감행하는 일이 살인 로봇의 공격보다 더 현실적이고 임박했다고 답했다. #AI위험논의#
155보안 거버넌스외부중국어 원문IT之家리카이푸: AI는 책임을 질 수 없다
제로원 만물 CEO 리카이푸는 제26회 투차회에서 AI가 답변 제공에서 업무 수행과 의사결정 지원으로 나아가고 있지만, 진정한 AI 전환을 위해서는 최고 경영진이 이를 추진하고 핵심 경영 전략 문제에 적용해야 한다고 밝혔다. 그는 AI가 위험 식별을 지원하고 의사결정의 질을 높일 수 있지만, 최종 책임은 반드시 사람이 져야 한다고 강조했다. #AI책임#
156보안 거버넌스외부중국어 원문IT之家앤트그룹 CEO 한신이: 앤트그룹, 에이전트 공급·수요 생태계 구축 가속화 위한 인센티브 정책 출시
한신이는 에이전트 공급과 수요 양측이 아직 선순환을 형성하지 못했다며, 앤트그룹이 신뢰 문제를 해결하고 생태계 선순환을 촉진하는 ‘촉매제’ 역할을 맡아 돌파구를 마련할 것이라고 밝혔다. 사용자 수요와 상인의 서비스를 연결하기 위해 알리페이 ‘아바오’는 인센티브 정책을 출시하고, 개발자들이 더욱 우수한 에이전트를 개발하도록 장려할 예정이다. #에이전트#
157보안 거버넌스외부중국어 원문IT之家수개월간의 협상 끝에 Anthropic, EU에 Mythos 5 접근 권한 개방
수개월간의 협상 끝에 EU 사이버 보안 기관 ENISA가 마침내 Anthropic의 고성능 AI 모델 Mythos에 대한 접근 권한을 얻었지만, 최신 버전은 사용할 수 없다. 앞서 백악관은 외국 기관의 접근을 제한한 바 있다. 이번 개방은 사이버 보안 취약점 점검 강화를 위한 것이다. #AI보안#
158보안 거버넌스외부중국어 원문IT之家AI 에이전트가 통제 불능 행동을 보이자, OpenAI가 미국에 의무적인 전국 AI 안전 규정 촉구
OpenAI가 에이전트 통제 불능과 ‘AI가 AI를 가속하는’ 위험에 대응하기 위해 미국에 의무적이고 역량 기반의 국가 AI 안전 규정을 마련할 것을 공개적으로 촉구했다. 또한 캘리포니아의 관련 법안 4개를 지지하며, 의회가 12월 휴회 전에 조치를 취할 것을 요구했다. #인공지능안전# #OpenAI#
159보안 거버넌스외부중국어 원문IT之家Anthropic, Claude 모델이 승인 없이 실제 제3자 시스템에 액세스한 네 번째 보안 사건 공개
Anthropic은 현지 시간 7월 30일 Claude 모델이 승인 없이 실제 제3자 시스템에 액세스한 보안 사건 3건을 공개한 바 있다.
160보안 거버넌스외부중국어 원문IT之家미국의 한 사립학교, ‘AI 교육’을 내세웠지만 학생들에게 여러 ‘굴욕적인’ 과제를 내준 것으로 드러나
교육 정책 작가이자 인지과학자인 벤저민 라일리가 최근 강한 어조의 글을 발표해 알파 스쿨의 내부 운영을 분석했다. 알파 스쿨은 유치원부터 12학년까지 운영되며 AI 교육 모델을 내세우고 있지만, 그 밖에도 매우 의문스러운 운영 방식이 여러 가지 있는 것으로 나타났다.
161보안 거버넌스외부중국어 원문IT之家OpenAI AI 학습 저작권 분쟁 사건 새 세부사항: GPT-5가 조지 R. R. 마틴을 대신해 《얼음과 불의 노래》를 집필할 수 있어
기술 매체 torrentfreak는 어제(9월 8일) 블로그 글을 게시해, 여러 도서 작가가 이번 주 뉴욕 연방 법원에 약식판결 신청서를 제출하고 OpenAI가 허가 없이 작품을 복제했으며 관련 행위가 공정 이용에 해당하지 않는다는 판단을 내려 달라고 판사에게 요청했다고 보도했다.
162보안 거버넌스외부중국어 원문IT之家보안 연구원, AI로 최초의 제로 클릭 위챗 웜 바이러스 신속 개발… 관련 취약점은 이미 수정
관련 기업 Calif는 이처럼 대규모인 웜 바이러스를 과거에는 대규모 팀이 수개월을 들여야 개발할 수 있었지만, 이제는 AI가 대부분의 작업을 수행할 수 있다고 밝혔다.
163보안 거버넌스외부중국어 원문IT之家Anthropic의 15억 달러 AI 저작권 합의금 지급이 잇따라 시작됐지만, 출판사와 작가 간 보상 배분 논란은 계속
합의금 지급 단계에서 여러 출판사가 이미 저작권을 반환한 도서에 대한 보상금을 잘못 수령한 사실이 드러났고, 일부 기관은 초과 신청까지 한 것으로 밝혀졌다. 현재 일부 출판사는 실수를 인정하고 수정했다.#AI저작권논란#
164보안 거버넌스외부중국어 원문IT之家오픈 소스 안드로이드 앱 스토어 F-Droid, Debian AI 정책 모방 검토: AI 사용 허용, 최종 책임은 기여자에게
Debian이 대규모 언어 모델 투표 안건을 통과시킨 데 이어, 오픈 소스 안드로이드 앱 스토어 F-Droid도 이를 따르는 방안을 검토하며 유사한 정책을 도입할 예정이다. 이 정책은 품질 및 규정 준수 요건을 충족하는 경우 #생성형AI# 사용을 허용하지만, 최종 책임은 인간 개발자가 지며 AI 사용 여부를 의무적으로 표시하지 않아도 된다. #F-Droid#
165보안 거버넌스외부중국어 원문IT之家미국 언론사 2곳, OpenAI와 마이크로소프트를 AI 학습의 저작권 침해 혐의로 제소
《시애틀 타임스》와 《뉴스데이》가 이번 주 금요일(9월 4일) OpenAI와 마이크로소프트를 공식 제소했다.
166보안 거버넌스외부중국어 원문IT之家ChatGPT, 학교 총격 사건에 휘말려… OpenAI 상대 소송 50건 넘어
OpenAI가 직면한 법적 위험이 계속 커지고 있습니다. 현재 OpenAI를 상대로 한 소송은 50건을 넘어섰으며, 원고들은 ChatGPT를 장기간 사용한 뒤 사용자 본인이나 주변 사람들이 정신적·신체적 피해를 입었고, 심지어 사망에 이르렀다고 주장하고 있습니다.
167보안 거버넌스외부중국어 원문IT之家미국 캘리포니아 등반가, 구글 Gemini의 경로 정보를 믿었다가 산에서 조난
AI가 제공한 소요 시간 등 경로 정보에 심각한 오차가 있어 실제 소요 시간이 두 배로 늘어났습니다. 등반가는 결국 길을 잃고 다쳤으며, 다음 날에야 경찰에 구조됐습니다. 이번 사건은 고위험 상황에서 AI의 한계를 다시 한번 보여줍니다. #AI안전# #구글Gemini#
168보안 거버넌스외부중국어 원문IT之家올트먼: OpenAI Astra 모델, 미국 정부의 자발적 심사에 참여
Astra는 OpenAI 최초로 핵심 사이버 보안 등급에 편입된 AI 모델이다. 올트먼은 심사 과정이 생산적이었다고 밝히며, AI 규제와 발전을 실용적으로 바라볼 것을 촉구했다. #OpenAI Astra 모델#
169보안 거버넌스외부중국어 원문IT之家미국 댈러스, 쓰레기 수거차 내장 AI 카메라로 건물에 ‘노후화 점수’ 부여… 시민들 개인정보 우려
외신 TechSpot은 오늘(3일) 댈러스시가 새로운 정책을 시작했다고 보도했다. 쓰레기 수거차에 장착된 AI 카메라로 이동 경로의 부동산을 점검하고, 시스템이 발견한 시 조례 위반 사항을 바탕으로 해당 부동산에 ‘노후화 점수’를 부여하는 정책이다.
170보안 거버넌스외부중국어 원문IT之家OpenAI, 사이버 보안 관련 발표 준비 위해 보안 분야 책임자 약 300명 소집
OpenAI 대변인은 현지 시간 목요일, 브록먼이 OpenAI 본사에서 열리는 사이버 보안 정상회의에서 이 계획을 발표할 예정이라고 밝혔다. 《포춘》 100대 기업의 기업 보안 책임자와 최고정보보호책임자 약 300명이 참석할 것으로 예상된다.
171보안 거버넌스외부중국어 원문IT之家HTC, 개인정보 보호를 내세운 AI 스마트 안경 VIVE Eagle 출시: 499달러부터
VIVE Eagle은 사용자가 화면과 양손 조작의 제약에서 벗어날 수 있도록 설계됐다. 안경은 음성 명령과 프로그래밍 가능한 물리 버튼을 지원해, 공원에서 자전거를 타거나 낯선 도시를 탐험할 때도 주변 환경에 계속 집중하면서 사진과 동영상을 촬영할 수 있다.
172보안 거버넌스외부중국어 원문IT之家OpenAI GPT-6 Astra 출시: 최초로 ‘중요’ 수준의 사이버 보안 역량 기준 충족, 브로크먼 “AGI 시대 이미 도래”
OpenAI의 현재 가장 강력한 대규모 언어 모델이지만, 모델 모니터링 가능성이 다소 낮아졌다고 인정했으며 안전 보호 조치를 강화했습니다. #OpenAI GPT-6#
173보안 거버넌스IT之家Google, Gemini 3.8 Flash Cyber 모델 출시… 코드 보안 방어에 내부 전면 배포
현지 시간 9월 2일, Google은 Gemini 3.8 Flash Cyber 모델을 출시하고 Fairwind 프로그램을 통해 첫 번째 신뢰할 수 있는 보안 방어 팀에 공개한다고 발표했다.
174보안 거버넌스IT之家미국, G20 회원국에 AI 규제에서 신중한 태도 촉구…과도한 신규 규정 제정 자제
미국은 G20 회의에서 AI 규제에 신중한 태도를 취하고 과도한 신규 규정을 제정하지 말자고 주장했으며, 이는 구글·메타·스페이스X 등 기술 대기업의 요구와 일치한다. 회의에서는 AI 안전성 테스트, 오픈 웨이트 모델 등의 의제가 논의됐고, 중국 AI 역량의 부상이라는 도전에도 직면했다. #AI규제#
175보안 거버넌스IT之家OpenAI, ‘AI 탈옥’ 사건에서 교훈 얻어… 최초로 ‘중대’ 기준 충족한 모델 Astra, 과도한 성능으로 사이버 보안 기능 제한
블룸버그에 따르면 OpenAI는 새로운 AI 모델 Astra를 곧 출시할 계획이지만, 초기에는 소수의 테스터만 고급 사이버 보안 기능을 사용할 수 있다. 회사는 Astra가 ‘중대 사이버 보안 기준’에 도달해 제로데이 취약점을 자율적으로 식별할 수 있으며, 오용을 방지하기 위해 안전장치를 강화했다고 밝혔다. #OpenAI# 앞서 AI 모델이 예기치 않게 공격을 수행한 사건이 발생한 바 있다.
176보안 거버넌스외부중국어 원문IT之家중앙인터넷정보판공실: 현재 AI 분야는 5가지 주요 보안 위험과 도전에 직면
오늘(9월 1일) 열린 2026년 국가 사이버보안 홍보 주간 기자회견에서 중앙인터넷정보판공실 사이버보안조정국 부국장 겸 1급 순시원 왕리훙은 현재 인공지능 분야가 5가지 주요 보안 위험과 도전에 직면해 있다고 소개했다.
177보안 거버넌스외부중국어 원문IT之家영국 규제 기관 경고: 의료 AI 전사 도구 잦은 오류로 환자 안전 위협
영국 NHS 규제 기관이 AI 의료 기록 도구가 약물명과 질병명을 잘못 인식할 수 있다고 경고했다. 한 환자는 ‘탈수초’로 오진되어 치료에 영향을 받을 뻔했다. 전문가들은 환자 안전을 위해 명확한 오류 수정 체계를 마련해야 한다고 촉구했다. #AI의료안전#
178보안 거버넌스IT之家영란은행 총재 베일리 경고: 첨단 인공지능이 글로벌 금융 안정 위협
영란은행 총재 앤드루 베일리는 G20 재무장관들에게 보낸 서한에서 최첨단 AI 모델이 사이버 공격을 통해 글로벌 금융 시스템을 교란할 수 있으며, 피해가 빠르게 확산될 수 있다고 밝혔다. 그는 각국에 AI의 안전한 배포를 보장할 수 있는 체계를 마련하라고 촉구했다. 이미 1367명의 AI 연구자들이 연명으로 AI 능력이 인간의 통제를 넘어설 수 있다고 경고했다. #AI안전# #금융위험#
179보안 거버넌스IT之家일일 평균 최고 11.3건: 보고서 "2026년 AI 통제 상실 사건 1664건 기록, 7월 전월 대비 93.76% 증가"
영국 장기 회복탄력성 센터(CLTR)는 8월 28일 보고서를 발표하고, '통제 상실 관측소'가 2026년 7월 총 306건의 AI 안전 사건을 기록했다고 밝혔다. 이는 6월의 158건보다 93.67% 증가한 수치다.
180보안 거버넌스외부중국어 원문IT之家Anthropic 안전 프레임워크 자동 강등: Claude가 개발자의 700GB 홈 디렉터리를 잘못 삭제해 자동화 정리가 재앙으로
개발자가 AI 파일 삭제 방지 기능을 테스트하던 중 Anthropic 안전 프레임워크가 모델을 자동으로 강등했고, 테스트 후 정리 과정에서 변수명을 잘못 재사용해 사용자 홈 디렉터리 전체가 삭제됐다. 일부 데이터는 복구했지만 손실이 발생해 AI 안전의 새로운 문제를 드러냈다. #AI안전# #Claude#
181보안 거버넌스IT之家Debian 커뮤니티 안건 표결: 개발자는 생성형 AI를 사용할 수 있으며 최종 책임은 인간에게
Debian 커뮤니티는 최근 투표를 통해 개발자가 생성형 AI를 책임 있게 사용할 수 있도록 결정했습니다. 새 정책은 소프트웨어와 문서 개발에서 AI 보조 사용을 금지하지 않지만, 인간 개발자가 AI 생성 콘텐츠에 대한 최종 책임을 지고 품질과 법적 준수 여부를 보장하도록 요구합니다. 이는 AI의 효율성과 오픈 소스 커뮤니티의 법적 위험 사이에서 균형을 맞춘 조치입니다.#DebianAI정책#
182보안 거버넌스IT之家OpenAI, 애플 소송 기각 요구하는 새 청원서 제출
애플의 기밀 탈취 혐의 제기에 대해 OpenAI가 최근 법원에 사건을 전면 기각해 달라는 새 청원서를 제출했다. OpenAI는 애플의 증거가 부족하며, 전직 직원 2명도 기밀 정보를 남용하지 않았다고 주장했다. 법원은 10월 1일 심리를 열 예정인 것으로 알려졌다. #OpenAI애플소송#
183보안 거버넌스외부중국어 원문IT之家미국 캘리포니아 연방법원 판사, Anthropic이 미국 국방부 등과의 소송에서 승소했다고 판결
Anthropic은 워싱턴 D.C.에서도 미국 국방부를 상대로 소송을 제기했습니다. 회사가 ‘블랙리스트’ 지정을 완전히 해제하려면 다시 승소해야 합니다.
184보안 거버넌스IT之家OpenAI·마이크로소프트·구글 등 116개 기업, AI 시대의 사이버 보안 중시 촉구 공동 서한 발표
서명에는 사이버 보안 기업, 금융 서비스 기업, 반도체 제조업체와 클라우드 서비스 제공업체 등이 참여했다.
185보안 거버넌스IT之家央视曝光 AI 相亲骗局，虚假婚介专门针对中老年女性下手
四川成都警方捣毁了一个利用 AI 生成男性形象实施婚恋诈骗的团伙，涉案金额超过百万。该团伙通过短视频平台引流，甚至使用变声器与受害者“直播连线”。#AI诈骗##婚恋陷阱# 专家呼吁平台加强技术识别与风险预警。
186보안 거버넌스IT之家OpenAI, Hugging Face 보안 사건 공식 보고서 발표… AI 모델의 샌드박스 탈출 전 과정 재구성
OpenAI가 최근 보고서를 발표해 Hugging Face 침해 사건의 경과를 상세히 재구성했다. 한 AI 모델이 테스트 중 해결할 수 없는 과제에 직면해 여러 취약점을 연쇄적으로 악용하며 보안 제한을 돌파했다. 보고서는 해당 모델의 정체와 후속 보안 조치를 공개했으며, 사고 사슬 모니터링 강화도 포함됐다. 이번 사건은 AI 보안 경계에 대한 고민을 다시 불러일으켰다.#AI보안#
187보안 거버넌스외부중국어 원문IT之家연구팀 조사 결과, 영어 생물의학 논문 70% 이상이 AI 보조 집필 사용… 업계에完善한 규제 체계 마련 촉구
연구팀이 100만 편이 넘는 생물의학 논문을 분석한 결과, 2025년 영어 생물의학 논문의 70% 이상에서 AI 보조 집필 특성이 나타났으며, 비영어권 지역의 사용 비율은 80%를 넘었습니다. AI가 학술 집필에 대규모로 활용되면서 위험도 드러나고 있어 전문가들은 사용 규범을完善할 것을 촉구했습니다. #AI학술집필#
188보안 거버넌스IT之家중국미술가협회 제1회 아동 그림책 전시 작품, AI 생성 의혹 제기… 관계자 “이미 철거”
《여름을 책가방에 담다》라는 작품이 산둥미술관에 전시됐다가, 어린이의 뒤틀린 손가락과 여섯 손가락 등 뚜렷한 AI 생성 특징으로 신고됐다. 중국미술가협회는 해당 작품의 전시 자격을 취소했다고 밝혔다. #AI창작논란# #아동그림책전시#
189보안 거버넌스IT之家OpenAI, 청소년용 ChatGPT 출시… 여러 아동 안전 전문가가 안전 메커니즘의 투명성에 의문 제기
여러 아동 안전 전문가의 청소년용 ChatGPT에 대한 평가는 엇갈렸지만, 모두 부모와 청소년에게 추천하기 전에 이 시스템이 대규모 독립 테스트를 거쳐야 하며 OpenAI가 안전 메커니즘의 작동 방식을 더욱 투명하게 설명해야 한다고 지적했다.
190보안 거버넌스IT之家OpenAI 최고글로벌업무책임자 르한: 대중과 기업은 AI 사이버 공격에 대비해야
보안 위험이 높아지는 가운데 OpenAI는 이번 주 가장 앞선 내부 모델 일부의 개발을 잠정 중단한다고 발표했다. 르한은 “현재 이 기술이 할 수 있는 일을 보면 AI는 이미 다른 단계에 들어섰다”고 말했다.
191보안 거버넌스IT之家스트리머 콘텐츠로 아마존 AI를 학습시킨 Twitch, 집단소송 직면
Twitch와 아마존이 스트리머 콘텐츠를 무단으로 사용해 AI를 학습시킨 혐의로 캘리포니아에서 집단소송을 당했다. 원고는 플랫폼이 약정을 위반했으며 옵트아웃 절차도 미흡하다고 주장했다. 이로 인해 스트리머 커뮤니티는 강하게 반발하며 AI 기능을 선택 사항으로 전환할 것을 요구하고 있다. #TwitchAI논란#
192보안 거버넌스IT之家OpenAI, 제로 데이터 보존 보안 메커니즘 확대… 상호작용 전반의 위험 자동 분석
OpenAI는 오늘(8월 20일) 블로그를 통해 자격을 갖춘 프런티어 모델 API 고객을 대상으로 ‘제로 데이터 보존’(Zero Data Retention) 서비스를 확대한다고 발표했습니다. 이 서비스에서는 요청 처리가 완료되면 프롬프트와 모델 응답이 삭제됩니다.
193보안 거버넌스IT之家“AI 대모” 리페이페이: 기술 종사자로서 ‘AI가 어떤 혜택을 가져올 수 있는지’를 더 명확히 설명해야
“AI 대모” 리페이페이는 자신을 포함한 기술 종사자들이 인공지능이 어떤 가치를 가져올 수 있는지 대중에게 더 잘 설명해야 한다고 밝혔다. 또한 미국 사회에서 AI에 대한 반대 정서가 계속 고조되고 있어 전 세계에 위험을 초래할 수 있다고 경고했다.
194보안 거버넌스IT之家사이버 공격 빈발에 프랑스 정부 부처, AI로 사이버 보안 취약점 탐지
잇따른 사이버 공격과 데이터 유출 사건에 대응하기 위해 프랑스 정부가 AI 도구를 도입해 사이버 보안 취약점을 탐지하기로 했으며, 자국 인공지능 기업에 관련 업무를 맡겼다. 최근 여러 차례의 공격으로 수백만 명의 납세자 정보가 유출되는 등 보안 상황이 심각하다.#사이버보안#
195보안 거버넌스IT之家OpenAI, 새로운 안전 정책 발표…모델 개발 모니터링 및 네트워크 격리 강화
OpenAI는 현지 시간 화요일 일련의 새로운 안전 조치를 발표했다. 주요 내용은 모델 테스트 기간 모니터링 강화, 네트워크 격리 확대, 의심스러운 활동 발견 후 30분 이내 경보 발령 약속 등이다. 이는 앞서 발생한 Hugging Face 보안 사건에서 비롯됐지만, 회사는 해당 사건을 직접 겨냥한 조치는 아니라고 밝혔다. 이러한 조치는 모델의 능력이 향상될수록 더욱 엄격해질 예정이다. #OpenAI보안#
196보안 거버넌스IT之家마이크로소프트 Copilot AI 취약점 공개: 악성 링크가 사용자 확인을 우회해 개인정보 탈취
과학기술 매체 Ars Technica는 어제(8월 18일) 게시글을 통해 마이크로소프트 Copilot에 보안 취약점이 존재하며, ?autorun=1 매개변수와 ?q=를 함께 사용하면 사용자 확인을 우회해 사용자 정보를 탈취할 수 있다고 보도했다.
197보안 거버넌스IT之家AI로 작성한 법안이 미국 의회에 쇄도: 세부 오류가 난무해 검토 지연
매체 politico는 어제(8월 18일) 게시글을 통해 인공지능(AI)이 미국 의회의 입법 과정에 진입하고 있다고 보도했다. AI의 도움으로 작성된 법안이 미국 의회에 대거 유입되면서 변호사들이 오류가 있는 초안을 정리하는 데 더 많은 시간이 걸리고 있다.
198보안 거버넌스외부중국어 원문IT之家플로리다 남성, ChatGPT에 “전 여자친구 살해” 계획 설명… OpenAI가 신고
미국 플로리다주 남성 대런 · 저우는 ChatGPT에 전 여자친구를 살해할 계획을 설명한 뒤 OpenAI에 의해 FBI에 자발적으로 신고됐다. 경찰 조사 결과 그의 채팅 기록에는 위협과 모의 내용이 가득했으며, 올해 5월 체포됐다.
199보안 거버넌스IT之家Anthropic, 생물무기 필터가 약 1년간 작동하지 않았던 보안 취약점 자진 공개… 1억 3,300만 건의 대화涉及
필터가 작동하지 않은 기간 동안 1억 3,300만 건의 대화가 영향을 받았으며, 현재까지 관련 요청이 실제로 악용된 정황은 발견되지 않았다. Anthropic은 문제를 해결하고 외부 계약업체에 대한 심사와 관리도 강화했다 #AI보안#
200보안 거버넌스IT之家정확도 87%-91%, AI가 이미지 속 시각적 단서로 촬영 장소 식별
McAfee의 최신 연구에 따르면 AI는 건축물, 간판, 식물 등 사진 속 시각적 단서를 분석해 촬영 장소를 판단할 수 있으며, 정확도는 최대 87%-91%에 달합니다. GPS 메타데이터를 삭제하더라도 사진을 통해 동선이 노출되거나 사기범에게 악용될 수 있습니다. #개인정보보안#
201보안 거버넌스IT之家호주 청소년 소셜미디어 금지를 지지한 보고서에서 인용 오류 다수 발견… 기관, ChatGPT로 편집했다고 인정
호주에서 348만 호주달러가 투입된 연령 인증 기술 보고서에서 다수의 인용 오류가 발견됐다. 작성자들은 처음에는 AI 사용을 부인했지만, 이후 ChatGPT로 일부 문단을 다시 작성했다고 인정했다. 보고서에 AI ‘환각’으로 인한 허위 인용이 포함된 것으로 지적되면서 정부 의사결정에 미칠 위험에 대한 우려가 커지고 있다.#AI논란#
202보안 거버넌스외부중국어 원문IT之家난감한 상황: 미국의 AI 규제 마련 의원 팀이 정작 AI 도구로 법안을 작성
《워싱턴포스트》에 따르면 OpenAI, Anthropic, xAI의 챗봇이 미국 의회에서 인기 도구로 떠오르고 있다. 플로리다주 하원의원 루나의 보좌진은 Claude가 생성한 내용을 실수로 《국방수권법》 기록에 붙여 넣어 엉뚱한 문장이 남았다. 현재 미국 의회에는 효과적인 AI 규제가 부족해 직원들이 사실상 자율적으로 사용하고 있다.
203보안 거버넌스IT之家영국, 테러리스트의 AI 생물무기 제조 방지를 위한 다각적 대책 연구
영국 정부가 유전자 합성 분야에서 인공지능의 활용을 규제할 준비를 하고 있다. 생물안보 위험에 대한 당국의 우려가 커지는 가운데, 영국 정부는 전 세계적으로 효과적인 규제가 없다면 AI가 생물무기 제조의 문턱을 낮출 수 있다고 보고 있다.
204보안 거버넌스IT之家미국 AI 사이버보안 심사 체계, 향후 최첨단 오픈소스 모델까지 적용될 가능성 높아
여기서 말하는 ‘최첨단’은 Anthropic Claude Mythos 또는 OpenAI GPT-5.6과 맞먹는 능력으로 정의되는 것으로 전해졌다. 보도에서는 해당 모델의 구체적인 버전을 제시하지 않았다.
205보안 거버넌스IT之家리페이페이: AI가 학교에 들어올 때 가장 큰 위험은 아이들의 학습 능력을 약화시킬 수 있다는 점
리페이페이는 최악의 결과가 젊은 세대의 자율성과 인간으로서 배우고 살아가려는 동력을 도구가 빼앗는 것이라고 말한다. “사람이든 기계든 그 무엇도 그것을 빼앗아서는 안 됩니다.”
206보안 거버넌스외부중국어 원문IT之家구글이 적극 추진한 AI 채용 도구, 자사 딥마인드 팀에 ‘반박’당해: 실수로 이력서를 걸러낼 수도
첨단 AI의 위험을 줄이는 Google DeepMind AGI 안전·정렬 팀은 지원자들에게 일반적인 지원 절차 외에 별도 양식도 작성하라고 권고했다. 구글 내부 AI 시스템에 의해 지원서가 자동으로 탈락하는 일을 막기 위해서다.
207보안 거버넌스IT之家OpenAI 윤리 책임자 클로에 바칼라르, 재직 1년도 안 돼 조용히 퇴사
OpenAI 대변인은 “Chloé의 기여에 감사드립니다. OpenAI에서 인공지능 윤리는 특정 담당자나 팀이 맡는 것이 아니라, 윤리적 고려 사항이 모델 구축 과정에 깊이 반영되며 여러 연구팀이 공동으로 참여합니다”라고 밝혔습니다.
208보안 거버넌스외부중국어 원문IT之家바이트댄스, Seed·Flow 이어 AI 데이터 및 보안에 초점 맞춘 새로운 최상위 부서 설립했다는 소식
36氪의 ‘스마트 이머전스’는 오늘(11일) 여러 소식통을 인용해 바이트댄스가 최근 새로운 최상위 부서인 AI 데이터 및 보안을 설립했다고 전했다. 이 부서는 Seed, Flow, 더우인 등 부서와 같은 선상에 있으며, 책임자는 왕잉레이(Adam Wang)다.
209보안 거버넌스IT之家미 상원의원, OpenAI·Meta·Anthropic CEO들에게 서한 보내 AI 개발 중단 요구
AI 에이전트가 통제를 벗어나 제3자 플랫폼에 침입하는 사건 등이 발생하자, 미국 상원의원 샌더스가 AI 대기업 OpenAI·Anthropic·Meta에 서한을 보내 개발 중단을 요구했다. 그렇지 않으면 의회가 개입하겠다고 밝혔다. #AI안전#
210보안 거버넌스IT之家OpenAI, 사이버 보안 방어 서비스 Daybreak 확장… 새 AI 모델 GPT-5.6-Cyber 출시
OpenAI가 사이버 보안 방어 서비스 Daybreak를 확장하고 Blue와 Red 두 등급을 추가했으며, 보안 작업을 위해 설계된 모델 GPT-5.6-Cyber를 출시한다고 발표했다. 이는 갈수록 기승을 부리는 AI 에이전트의 악의적인 공격에 대응하기 위한 조치다. 이 모델은 현재 CrowdStrike, IBM 등 신뢰할 수 있는 고객에게만 제공된다. #AI보안#
211보안 거버넌스IT之家오라클 OpenJDK 프로젝트 새 규정: AI 생성 코드 제출 금지
오라클(Oracle)이 OpenJDK 커뮤니티에 대규모 언어 모델 등 AI가 생성한 코드와 텍스트 등의 콘텐츠를 일절 제출할 수 없다고 공식 통보했다. 지식재산권과 사이버 보안 문제 및 심사 업무량 증가를 우려한 조치다. 다만 개인적으로 AI의 도움을 받아 코드를 디버깅하는 것은 허용된다. #AI프로그래밍#
212보안 거버넌스IT之家보안 업체, 구글 검색엔진에서 Claude 공개 공유 대화 검색 가능… 사용자 민감 정보 유출 우려
보안 업체가 Claude 공개 공유 채팅 기록이 구글 검색엔진에 수집·색인돼 사용자 민감 정보가 노출될 수 있다고 밝혔다. Grok과 Meta AI에서도 유사한 문제가 발생한 바 있어, 전문가들은 AI 대화를 공개적으로 공유하지 말 것을 권고했다. #AI보안#
213보안 거버넌스IT之家직원들의 AI 대량 소송 제기로 영국 고용법원 소장 급증
영국 고용법원의 올해 3월 사건 수가 39% 급증했고, 적체 사건은 55% 증가했다. 직원들이 ChatGPT 등 AI로 소장을 무료 작성하면서 대량의 ‘법률 환각’과 수백 쪽에 달하는 무효 서류가 발생한 것이 원인이다. 새 법안은 제소 사유를 25가지 추가해, 실제로 도움이 필요한 직원들이 더 오래 기다리게 만들었다. #AI법률위험#
214보안 거버넌스IT之家Anthropic, Claude Fable 5 모델의 생물안전 메커니즘 최적화해 오탐 차단 85% 감소
Anthropic은 어제 Claude Fable 5의 생물안전 보호 메커니즘을 업데이트했다. 안전 분류기를 조정해 무해한 질문과 고위험 질문을 더 정확하게 구분할 수 있도록 한 것이다. 공식 테스트에 따르면 생물학 관련 질의응답의 성능 저하 현상이 85% 줄었으며, 이제 사용자는 악의적 사용을 방지하면서 더 폭넓은 생물학 작업을 처리할 수 있다. #AI안전#
215보안 거버넌스IT之家Google, Gemini가 비공개 문서로 학습했다는 의혹 부인…개발자는 비공개 콘텐츠 유출 주장
한 인디 개발자가 Gemini가 공개되지 않은 게임 캐릭터를 유출했다고 주장한 가운데, Google은 비공개 Google Docs를 스캔하거나 학습에 사용하지 않는다고 공식回应했다. 회사는 사용자가 직접 요청한 경우에만 Gemini가 Workspace 파일에 접근하며, 공개 공유된 링크는 검색 엔진에 색인될 수 있다고 밝혔다. 이번 진실 공방을 어떻게 보시나요? #GoogleGemini#
216보안 거버넌스IT之家OpenAI: 사이버 보안 위험으로 Astra 모델 출시 연기
OpenAI 최고경영자 샘 올트먼(Sam Altman)은 이후 Astra가 성능이 강력한 모델이라며, 공개 출시를 위해 전력을 다하고 있다고 밝혔다.
217보안 거버넌스IT之家Frontier Security사: 문쉐도우의 Kimi K3 모델, 보안 테스트 중 샌드박스 탈출했지만 공격은 하지 않아
미국 보안 기업 Frontier Security가 테스트 중 문쉐도우의 Kimi K3 모델이 샌드박스 제한을 뚫고 인터넷에 자체적으로 접속한 사실을 발견했다. GitHub에서 답을 찾았을 뿐 공격은 하지 않았지만, 보안 메커니즘의 취약성이 드러났다. AI 탈출 사건이 잇따르면서 인간은 샌드박스 환경을 다시 설계해야 할 수도 있다. #AI보안#
218보안 거버넌스외부중국어 원문IT之家샤오홍슈, 《AI 거버넌스 규정 공고》 발표: AI 생성물의 자발적 공개 장려, AI 표절·타인 음성 합성·뉴스 조작 반대
샤오홍슈가 AI 거버넌스 새 규정을 마련하고, AI 가상인간과 AI로 다듬은 게시물 등 AI 생성 콘텐츠를 창작자가 자발적으로 공개하도록 장려합니다. 플랫폼은 AI 표절, 타인 음성 합성, 뉴스 조작 등의 행위를 반대하며, 위반 시 노출 제한, 발언 금지, 계정 정지 등의 조치를 받을 수 있습니다. #AI거버넌스#
219보안 거버넌스IT之家엔비디아, 조용히 AI 보안·네트워크 엔지니어링 팀 구성… “확고한 신념”을 바탕으로 한다고 밝혀
엔비디아는 새 팀의 창립 기술 책임자를 맡을 탁월한 엔지니어 1명을 채용할 계획이며, 그 밖에 보안 연구 엔지니어, 평가 엔지니어, 수석 관리자 등을 모집한다. 이 팀은 아직 배포되지 않은 AI 에이전트를 대상으로 보안 평가를 수행하고, AI를 활용해 소프트웨어 취약점을 자동으로 수정하는 도구도 개발할 예정이다.
220보안 거버넌스외부중국어 원문IT之家OpenAI, Hugging Face 공격 전 AI 에이전트가 비밀리에 내부 게시판 구축했다고 공개
미국 라스베이거스에서 개최된 2026년 블랙햇 사이버 보안 콘퍼런스(8월 1일~6일)에서 OpenAI 연구원은 자사 AI 모델이 Hugging Face를 공격하기 전 테스트 환경에서 이미 약 2개월 동안 “모의했다”고 밝혔습니다.
221보안 거버넌스IT之家‘AI 대부’ 힌턴: 인공지능이 자체 목표를 발전시킬 수 있어 무섭다
힌턴은 인터뷰에서 AI가 인간이 예상하지 못한 목표를 추론하고, 목표를 달성하기 위해 인간에게 해를 끼칠 수도 있다고 말했다. 지난달 OpenAI 모델이 Hugging Face 시스템에 침입한 사건도 관련 위험을 보여줬다.#인공지능안전#
222보안 거버넌스IT之家국제 AI 보안 순위 CyberGym 오늘 발표: 중국 솔루션 DoGNAVY 세계 3위·오픈 소스 1위
중국 최고 인공지능 연구기관 및 보안팀 다쿠노웨이(DARKNAVY)가 공동 개발한 DoGNAVY가 90.8%의 통과율로 세계 3위이자 오픈 소스 부문 1위를 차지했다.
223보안 거버넌스IT之家미국 첨단 인공지능 모델 사이버 보안 심사 메커니즘, 당분간 오픈 웨이트 모델은 대상에 포함되지 않는다는 소식
미국 정부는 모델 심사 메커니즘의 전체 내용을 외부에 공개하지 않을 것으로 예상되지만, 해당 내용은 기밀이 아니며 참여를 선택한 기업은 관련 세부 정보를 받을 수 있다.
224보안 거버넌스IT之家AI로 콜라츠 추측을 ‘뒤집으려던’ 시도 실패, Lean 4.32.2에서 커널 취약점 수정
과학기술 매체 Gigazine은 어제(8월 3일) 게시물을 통해 AI를 활용해 콜라츠 추측을 반박했다고 주장한 Lean 형식화 증명이 무효로 확인됐다고 보도했다.
225보안 거버넌스IT之家국제형사경찰기구: AI, 아프리카 사이버 범죄의 핵심 동력으로 부상
국제형사경찰기구의 최신 보고서에 따르면 AI는 아프리카 사이버 범죄 사건의 55%에 관여했으며, 경제적 손실은 2년 만에 두 배로 증가했다. 동아프리카는 모바일 결제 사기의 중심지로, 남아프리카는 전 세계 공격의 주요 표적으로 떠올랐다. #아프리카사이버범죄# 각국은 공동 대응에 나서 1500명 이상을 체포했다.
226보안 거버넌스IT之家Hugging Face CEO 델랑그: 중국은 AI 경쟁에서 승리하고 있으며, 미국은 ‘각자도생’ 중
Hugging Face CEO 델랑그는 중국이 개방형 모델 생태계 덕분에 AI 경쟁에서 앞서고 있다고 밝혔다. 그는 미국의 폐쇄적인 개발 방식이 뒤처질 수 있다고 경고하며, AI 공격 방어에서 개방형 모델이 핵심적인 역할을 한다고 지적했다. 최근 엔비디아 등 기업들도 오픈 웨이트 모델을 제한하지 말 것을 촉구했다. #AI경쟁#
227보안 거버넌스IT之家미국 정부, 첨단 AI 모델 자율 평가 프레임워크 마련 완료… 내용은 비공개
프레임워크에는 기밀 유지와 보안 등 여러 요구 사항이 포함되며, 현재는 마련만 완료된 상태로 세부 내용은 공개되지 않았다. 백악관은 화요일 관련 기업들과 회의를 열고 해당 프레임워크를 검토할 계획이다. #AI규제# #인공지능#
228보안 거버넌스IT之家IBM: 악의적 데이터 유출 사건의 4분의 1은 AI 공격으로 발생, 평균보다 피해 20% 높아
AI 기반 사이버 공격의 62%는 핵심 인프라를 표적으로 삼았으며, 금융 서비스 및 에너지 기관에 공격이 가장 집중됐다.
229보안 거버넌스IT之家Hugging Face CEO 델랑그: AI 기업은 보안 침해 사건을 적극적으로 공개해야
Hugging Face CEO 델랑그는 최첨단 모델의 출시를 제한해도 해커 공격을 막을 수 없으며, 오히려 더 많은 사람이 접근하도록 해야 방어력을 강화할 수 있다고 밝혔다. 그는 문제의 근원을 추적할 수 있도록 AI 에이전트 사이버 공격 공개 제도를 마련해야 한다고 촉구했다. #AI보안#
230보안 거버넌스IT之家연봉 50만 달러를 제시해도 사람을 못 구한다… AI 안전 업계, 인재 부족에 빠져
비영리단체 METR은 최대 연봉 50만 3,000달러를 제시하고도 AI 안전 분야의 인재 부족을 해결하지 못하고 있다. 연구원들은 인재 풀이 부족하면 AI 발전이 통제 불능에 빠질 수 있다고 우려하며, 사회가 안전성 평가에 더 많은 투자를 해야 한다고 촉구했다. #AI안전인재부족#
231보안 거버넌스IT之家현존 작가의 문체 모방 거부… OpenAI, ChatGPT에 조용히 제한 추가
테스트 결과, ChatGPT는 이제 스티븐 킹 등 현존 작가의 문체를 모방해 달라는 요청을 직접 거부하지만, 셰익스피어와 같은 고인이 된 작가에게는 이런 제한이 적용되지 않는다. 이는 OpenAI가 저작권의 모호한 영역에서 법적 위험을 피하기 위해 취한 자구책일 가능성이 있다.#AI저작권# #ChatGPT업데이트#
232보안 거버넌스IT之家OpenAI 모델 통제 상실 피해자는 Hugging Face뿐이 아니다… Modal Labs, 고객 1곳 해킹 확인
OpenAI의 통제 불능 에이전트의 공격은 Hugging Face에서 멈추지 않았다. 최신 보도에 따르면 이 에이전트는 Modal Labs의 고객 1곳에도 성공적으로 침입해, 검증되지 않은 공개 엔드포인트를 발판으로 이용했다. 이번 사건은 AI 시스템의 보안 경계에 새로운 위험을 드러내며, AI 통제 상실에 대한 업계 전반의 우려를 키우고 있다.#AI안전##OpenAI#
233보안 거버넌스IT之家영국의학협회: 오해를 불러일으키는 ‘AI 의사’는 공공 안전에 막대한 위협
TikTok에서 AI로 생성된 가상 의사 이미지가 허위 건강 정보를 대량으로 퍼뜨리고 있으며, 인기 영상의 조회 수가 수백만 회에 달할 수 있다는 연구 결과가 나왔다. 전문가들은 이것이 공공 안전에 막대한 위협이 된다고 경고했다. 플랫폼 측은 유해 콘텐츠를 삭제하고 권위 있는 기관과 협력해 신뢰할 수 있는 정보를 제공하고 있다고 밝혔다.
234보안 거버넌스IT之家구글 산하 Wiz, 취약점 발굴 시스템 Atlas 공개: 여러 AI 에이전트가 역할을 나눠 협업해 200개 이상의 취약점 발견
구글 산하 Wiz가 AI 에이전트 시스템 Atlas를 공개했다. Atlas는 인간 보안 팀처럼 역할을 나눠 협업하며, 다단계·프로그래밍 방식으로 소프트웨어 취약점을 자율적으로 발굴한다. 이 시스템은 실제 적용 과정에서 이전에 알려지지 않은 보안 취약점 200개 이상을 발견했으며, 이로 인해 GitHub로부터 10만 달러의 포상금을 받았다. #AI보안# #사이버보안#
235보안 거버넌스IT之家OpenAI 브록먼 사장, 애플 소송 언급: 다른 기업의 영업비밀을 훔칠 생각 없어
어제(7월 29일) 《월스트리트저널》 기술 칼럼니스트 조애나 스턴(Joanna Stern)과의 인터뷰에서 OpenAI 공동 창업자 겸 사장 그레그 브록먼(Greg Brockman)은 애플의 소송과 관련해 회사가 다른 기업의 영업비밀을 취득할 의도가 없으며, 자체 기술과 장기적인 제품 로드맵에 집중할 것이라고 밝혔다.
236보안 거버넌스IT之家보안 기업 체크포인트: OpenAI의 ChatGPT, 사칭이 가장 많이 발생한 브랜드 10위권에 처음 진입
보안 기업 체크포인트가 최신 연구 결과를 발표했다. 해커들이 인기 AI 분야를 겨냥하기 시작했으며, OpenAI의 ChatGPT가 사칭이 가장 많이 발생한 브랜드 상위 10위권에 처음 진입한 것으로 나타났다. #사이버보안# #AI보안#
237보안 거버넌스IT之家보도에 따르면 PwC의 《전환 거버넌스》 보고서는 84% 확률로 완전히 AI가 생성
기술 매체 gptzero는 7월 28일 블로그 글을 게시하고, PwC가 2024~2026년 기간에 중동에 관해 발표한 4개의 연구 보고서에 다수의 조작된 정보와 허위 진술이 존재한다고 보도했다.
238보안 거버넌스IT之家ChatGPT, 캄보디아 사기 조직에 악용돼… OpenAI 계정 차단
사기 조직이 ChatGPT를 이용해 사기 콘텐츠를 제작하고 가짜 신분을 꾸며 로맨스 스캠을 벌였습니다. OpenAI는 제보를 받은 후 관련 계정을 차단하고 관련 정보를 공유했습니다. #ChatGPT사기#
239보안 거버넌스IT之家OpenAI, 더 많은 AI 에이전트 ‘통제 불능’ 징후 발견
OpenAI가 공격 사건을 조사하는 과정에서 여러 건의 AI 에이전트 통제 불능 사례를 발견했다. 현재 영향 범위는 제한적이지만, 이 사건이 미국의 AI 규제 강화를 촉진할 가능성이 있으며 업계 전문가들은 AI 안전 문제에 우려를 표했다. #AI안전#
