하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

구글 제미니 AI, 구글 드라이브에 호스팅된 PDF 파일을 무단으로 스캔하다 적발

블랙웰

2 1409 1 2024.07.15 06:37

<p><img src="https://img2.quasarzone.com/editor/2024/07/15/0f2cf9d7429164b8d0dc95ce020fbdd7.png" alt="퀘이사존"></p><p><br></p><p>AI 거버넌스 선임 고문인 케빈 뱅크스턴이 구글 제미니의 행동에 대해 설명합니다.
</p><p><br></p><p>아래에 첨부된 Kevin Bankster의 트위터에 올라온 보고서에 따르면, 우리가 원하든 원치 않든 기술 업계가 AI를 광범위하게 추진하는 가운데 Google의 Gemini AI 서비스가 이제 사용자의 명시적인 허가 없이 비공개 드라이브 문서를 읽고 있는 것으로 보입니다. Bankster는 특히 자신과 같은 사용자에게 이런 문제가 발생할 수 있는 이유를 설명하지만, 민감한 개인 정보를 완전히 통제할 수 없다는 것은 Google과 같은 규모의 회사에서 용납할 수 없는 일이며, 앞으로 AI가 자주 출시될 때 개인정보 보호에 대한 우려를 불식시키는 좋은 징조는 아닙니다.
</p><p><br></p><div><blockquote class="twitter-tweet" align="center"><p lang="en" dir="ltr">Just pulled up my tax return in <a href="https://twitter.com/Google?ref_src=twsrc%5Etfw">@Google</a> Docs--and unbidden, Gemini summarized it. So...Gemini is automatically ingesting even the private docs I open in Google Docs? WTF, guys. I didn't ask for this. Now I have to go find new settings I was never told about to turn this crap off.</p>— Kevin Bankston (@KevinBankston) <a href="https://twitter.com/KevinBankston/status/1811075836558114968?ref_src=twsrc%5Etfw">July 10, 2024</a></blockquote>

<br></div><div>그렇다면 정확히 무슨 일이 벌어지고 있는 걸까요? Google 지원팀과 Gemini AI 자체도 잘 모르는 것 같지만 Kevin Bankston이 전체 스레드에서 훨씬 더 자세한 내용을 제공한 후 몇 가지 이론을 제시했습니다. 처음 게시한 글과는 달리, 이 문제는 Google 문서 도구가 아닌 Google 드라이브라는 큰 범주 내에서 기술적으로 발생하고 있지만 문서 도구에도 적용될 수 있는 문제일 가능성이 높습니다.</div><div><br></div><div>그렇다면 이 문제의 원인은 무엇일까요? Google의 Gemini AI에 따르면 Gemini에 정보를 제공하는 데 사용되는 개인 정보 설정이 공개적으로 사용 가능해야 하지만 그렇지 않다는 것은 AI가 "환각(거짓말)을 하고 있거나" Google 서버의 일부 내부 시스템이 완전히 오작동하고 있다는 것을 의미합니다. 어느 쪽이든, 이 개인 데이터가 제미니 AI를 학습시키는 데 사용되지 않는다고 해도 좋은 모습은 아닙니다.</div><div><br></div><div>게다가 뱅크스턴은 결국 문제의 설정 토글을 찾아냈지만 Gmail, 드라이브, 문서에서 제미니 요약 기능이 이미 비활성화되어 있었습니다. 게다가 처음에 Gemini 봇이 가리켰던 웹 페이지와는 완전히 다른 위치에 있었습니다.</div><div><br></div><div>Bankston의 경우 이 문제는 Google 드라이브에 국한된 것으로 보이며, 적어도 하나의 문서에서 Gemini 버튼을 누른 후에만 발생했습니다. 일치하는 문서 유형(이 경우 PDF)은 이후 Google 드라이브 내에서 열리는 동일한 유형의 모든 파일에 대해 자동으로 Google Gemini를 트리거합니다. 또한 2023년에 Google 작업 공간 연구소를 활성화하여 의도한 Gemini AI 설정을 무효화했기 때문에 발생한 문제일 수 있다는 이론을 세우고 있습니다.</div><div><br></div><div>이 문제가 구글 워크스페이스 랩 사용자에게만 국한된 문제라고 하더라도 구글의 최신 기술을 테스트하는 데 도움을 주었다는 점에서 상당히 심각한 단점입니다. 사용자 동의는 특히 잠재적으로 민감한 정보에 대해서는 여전히 세분화된 기준으로 중요하며, Google은 이러한 원칙을 지키지 않음으로써 사용자 기반의 적어도 한 부분에서는 완전히 실패했습니다.</div><p>
</p><p>
</p>

블랙웰

행성: 은하

포인트: 652,362 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 2개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

21.2k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
3	벤큐, GV50 프로젝터 출시: 침실 천장에 대형 스크린의 스릴을 선사 4 기타/주변기기 심심해❤️ 523 08-16
1	페로브스카이트 양자점을 통한 효율적인 딥블루 LED로 과제 극복 3 디스플레이 QM이라 331 08-16
1	나카미치, 드래곤 홈 시네마 시스템을 위한 12인치 서브우퍼 업그레이드 출시 1 음향기기 심심해❤️ 458 08-16
24	TCL, 미니LED TV 판매량 삼성과 격차 좁히고 LG를 큰 차이로 추월 30 디스플레이 심심해❤️ 1.9k 08-16
10	머스크, AI 챗봇 '그록2' 출시…도 넘은 이미지 생성 논란 13 소프트웨어 빌보 1.8k 08-16
8	전기차 배터리 제조사 현황 안내, 국토부 자동차리콜센터 21 업계동향 빌보 1.1k 08-16
25	HDR10과 Dolby Vision의 차이점 27 디스플레이 심심해❤️ 4.1k 08-16
14	LG전자, 日 OLED TV 시장 첫 1분기 두 자릿수 점유율 돌파 21 디스플레이 심심해❤️ 1.2k 08-16
4	Konka, 10000 니트, 230000 디밍 존의 혁신적인 8K 110인치 미니LED TV 출시 7 디스플레이 심심해❤️ 779 08-16
3	칼레이드스케이프, 새로운 4K 플레이어 Strato V 출시: 4K 돌비 비전, 무손실 오디오 3 기타/주변기기 심심해❤️ 415 08-16
0	HPE, 모피어스 데이터 인수 업계동향 QM브로리 309 08-16
2	마이크로소프트, AI 약관 조항 추가 6 기타/주변기기 QM브로리 534 08-16
2	삼성디스플레이: PHOLED/TADF 기반 청색 OLED 발광기술 개발 3 디스플레이 QM이라 506 08-16
3	MOZA Racing이 NexGen 3.0 FFB로 R12 DD 휠베이스를 업그레이드 3 기타/주변기기 QM건빵 320 08-16
2	구글의 Gemini With Research는 최강의 숙제 해결사일까? 5 소프트웨어 QM건빵 407 08-16
30	크라이오텍 CR601: 260W TDP의 듀얼 타워 CPU 공랭 쿨러 출시 31 쿨링솔루션 QM락형 1.7k 08-16
0	Insta360 Link 2 웹캠 유출, 짐벌 없이 가격은 더 저렴할 듯 기타/주변기기 QM제크 434 08-16
2	Alienware AW2725QF 27인치 게이밍 모니터: 180Hz에서 4K / 360Hz에서 1080p 2 디스플레이 QM락형 593 08-16
1	Apple M4 MacBook Pro의 디스플레이 패널이 이번 달에 출하, 신제품은 4분기에 출시될 것 1 노트북 QM지름 716 08-16
1	Microsoft, 8월 패치 화요일 업데이트에서 10개의 제로데이 취약점 해결 2 소프트웨어 QM지름 637 08-16
1	Geekbench AI가 이름이 변경되고 버전 1.0이 출시됩니다. 1 소프트웨어 QM달려 471 08-16
15	Intel Core Ultra 9 285K/15900K는 295W 전력 한계, 8코어를 탑재한 Core Ultra 3/i3 47 CPU/MB/RAM QM지름 4.8k 08-16
1	TSMC, 고고학적 발견 후 CoWoS 시설 건설 진행 허가 3 업계동향 QM달려 621 08-16
2	Cooler Master, Ryzen 9000 시리즈를 위한 AMD와의 협력 발표 2 업계동향 QM달려 579 08-16
1	ViewSonic, 새로운 M1X 및 M1S 프로젝터 공개 2 디스플레이 QM달려 252 08-16
1	HighPoint, 새로운 SSD7749M2 16x M.2 포트 NVMe RAID AIC 출시 1 저장장치 QM달려 266 08-16
2	MSI, 다음 주 Core Ultra 200 시리즈용 Z890 MAG TOMAHAWK 공개 예정 3 CPU/MB/RAM QM오즈 864 08-16
3	테슬라 '뉴 2170' 양산 초읽기…달라지는 특징은 4 업계동향 지수테이블 757 08-16
28	윈도우 11 버그로 인해 AMD Ryzen CPU 게임 성능 저하, Ryzen 9000 가장 큰 타격 49 CPU/MB/RAM Wormhole 9k 08-16
6	세계 D램 매출 2분기 25% 증가… “3분기 가격 8~13% 오를 것” 8 업계동향 빌보 628 08-16