하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

구글 제미니 AI, 구글 드라이브에 호스팅된 PDF 파일을 무단으로 스캔하다 적발

블랙웰

2 1416 1 2024.07.15 06:37

<p><img src="https://img2.quasarzone.com/editor/2024/07/15/0f2cf9d7429164b8d0dc95ce020fbdd7.png" alt="퀘이사존"></p><p><br></p><p>AI 거버넌스 선임 고문인 케빈 뱅크스턴이 구글 제미니의 행동에 대해 설명합니다.
</p><p><br></p><p>아래에 첨부된 Kevin Bankster의 트위터에 올라온 보고서에 따르면, 우리가 원하든 원치 않든 기술 업계가 AI를 광범위하게 추진하는 가운데 Google의 Gemini AI 서비스가 이제 사용자의 명시적인 허가 없이 비공개 드라이브 문서를 읽고 있는 것으로 보입니다. Bankster는 특히 자신과 같은 사용자에게 이런 문제가 발생할 수 있는 이유를 설명하지만, 민감한 개인 정보를 완전히 통제할 수 없다는 것은 Google과 같은 규모의 회사에서 용납할 수 없는 일이며, 앞으로 AI가 자주 출시될 때 개인정보 보호에 대한 우려를 불식시키는 좋은 징조는 아닙니다.
</p><p><br></p><div><blockquote class="twitter-tweet" align="center"><p lang="en" dir="ltr">Just pulled up my tax return in <a href="https://twitter.com/Google?ref_src=twsrc%5Etfw">@Google</a> Docs--and unbidden, Gemini summarized it. So...Gemini is automatically ingesting even the private docs I open in Google Docs? WTF, guys. I didn't ask for this. Now I have to go find new settings I was never told about to turn this crap off.</p>— Kevin Bankston (@KevinBankston) <a href="https://twitter.com/KevinBankston/status/1811075836558114968?ref_src=twsrc%5Etfw">July 10, 2024</a></blockquote>

<br></div><div>그렇다면 정확히 무슨 일이 벌어지고 있는 걸까요? Google 지원팀과 Gemini AI 자체도 잘 모르는 것 같지만 Kevin Bankston이 전체 스레드에서 훨씬 더 자세한 내용을 제공한 후 몇 가지 이론을 제시했습니다. 처음 게시한 글과는 달리, 이 문제는 Google 문서 도구가 아닌 Google 드라이브라는 큰 범주 내에서 기술적으로 발생하고 있지만 문서 도구에도 적용될 수 있는 문제일 가능성이 높습니다.</div><div><br></div><div>그렇다면 이 문제의 원인은 무엇일까요? Google의 Gemini AI에 따르면 Gemini에 정보를 제공하는 데 사용되는 개인 정보 설정이 공개적으로 사용 가능해야 하지만 그렇지 않다는 것은 AI가 "환각(거짓말)을 하고 있거나" Google 서버의 일부 내부 시스템이 완전히 오작동하고 있다는 것을 의미합니다. 어느 쪽이든, 이 개인 데이터가 제미니 AI를 학습시키는 데 사용되지 않는다고 해도 좋은 모습은 아닙니다.</div><div><br></div><div>게다가 뱅크스턴은 결국 문제의 설정 토글을 찾아냈지만 Gmail, 드라이브, 문서에서 제미니 요약 기능이 이미 비활성화되어 있었습니다. 게다가 처음에 Gemini 봇이 가리켰던 웹 페이지와는 완전히 다른 위치에 있었습니다.</div><div><br></div><div>Bankston의 경우 이 문제는 Google 드라이브에 국한된 것으로 보이며, 적어도 하나의 문서에서 Gemini 버튼을 누른 후에만 발생했습니다. 일치하는 문서 유형(이 경우 PDF)은 이후 Google 드라이브 내에서 열리는 동일한 유형의 모든 파일에 대해 자동으로 Google Gemini를 트리거합니다. 또한 2023년에 Google 작업 공간 연구소를 활성화하여 의도한 Gemini AI 설정을 무효화했기 때문에 발생한 문제일 수 있다는 이론을 세우고 있습니다.</div><div><br></div><div>이 문제가 구글 워크스페이스 랩 사용자에게만 국한된 문제라고 하더라도 구글의 최신 기술을 테스트하는 데 도움을 주었다는 점에서 상당히 심각한 단점입니다. 사용자 동의는 특히 잠재적으로 민감한 정보에 대해서는 여전히 세분화된 기준으로 중요하며, Google은 이러한 원칙을 지키지 않음으로써 사용자 기반의 적어도 한 부분에서는 완전히 실패했습니다.</div><p>
</p><p>
</p>

블랙웰

행성: 은하

포인트: 652,922 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 2개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

21.2k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
5	Microsoft, Windows 11 부팅 루프를 유발하는 심각한 업데이트 버그 수정 4 소프트웨어 QM달려 5.9k 07-12
5	Alphacool, 코어 1 카본 CPU 워터블럭 시리즈 출시 7 쿨링솔루션 QM달려 616 07-12
1	샤프 NEC, MultiSync 27인치 엔터프라이즈 디스플레이 2종 출시 2 디스플레이 QM달려 255 07-12
3	Razer, 마우스 회전 및 동적 감도로 마우스 성능 향상 4 키보드/마우스 QM달려 1k 07-12
1	Creative, 새로운 Outlier Go Wireless 오픈이어 헤드폰 발표 2 음향기기 QM달려 352 07-12
13	발키리, LCD 탑재 AL125 공랭 쿨러 출시 18 쿨링솔루션 QM오즈 1.4k 07-12
14	큐텐發 정산금 미지급 사태… 인당 최대 27억원 피해 호소 속출 14 업계동향 큰돌 6.7k 07-12
5	2차전지 핵심원소 리튬, 한국서 첫 발견…“울진·단양에 매장광산 있다” 17 기타/주변기기 큰돌 2.1k 07-12
40	[루머] 인텔 15세대 애로우 레이크 데스크탑 CPU 12월 출시 예정 64 CPU/MB/RAM Wormhole 12.2k 07-11
3	"中 개발자들, 오픈AI API 차단하자 VPN·클라우드로 우회" 5 업계동향 빌보 1.2k 07-11
4	인텔 코어 울트라 7 258V 루나 레이크 긱벤치 벌칸 점수 유출, GTX 1650과 동급 성능 iGPU 6 CPU/MB/RAM Wormhole 2.8k 07-11
27	AMD, Ryzen 9000 CPU 리뷰 샘플 배송 시작 & MSI 600 시리즈 메인보드에 스티커 부착 20 CPU/MB/RAM Wormhole 9.4k 07-11
43	인텔, 불안정성 문제로 시달리는 14/13세대 데스크탑 CPU에 대한 RMA 요청 거부 63 CPU/MB/RAM Wormhole 12.9k 07-11
28	기가바이트, 후면 커넥터 올화이트 B650E AORUS STEALTH ICE 메인보드 공개 45 CPU/MB/RAM Wormhole 3.7k 07-11
11	NVIDIA, 150개의 RTX A6000 GPU로 베가스 스피어에 전력 공급 11 업계동향 QM바나 2k 07-11
18	인텔, i9-13900K/14900K 안정성 문제로 인해 게임 서버 공급업체가 AMD로 이동 20 CPU/MB/RAM QM달려 4.8k 07-11
9	Sapphire, Radeon RX 7700XT Frostpunk 2 Edition 출시, 가격은 439달러 9 그래픽카드 QM달려 1.4k 07-11
11	Intel은 새로운 310 CPU, 4.1GHz에서 단 2개의 P-코어로 듀얼 코어 Raptor Lake 리프레시 출시 14 CPU/MB/RAM QM지름 3k 07-11
1	LG디스플레이, 中광저우 LCD 공장 매각 초읽기…CSOT 유리한 고지 오른 듯 7 디스플레이 빌보 1k 07-11
2	폭스콘, 첨단 패키징 시장 진출, 샤프도 2026년 생산능력 확대 3 업계동향 QM바나 468 07-11
10	SK하이닉스·TSMC·엔비디아, 차세대 HBM 개발 위해 제휴 체결 12 업계동향 QM바나 2.2k 07-11
1	애플이 macOS Sequoia 세 번째 베타 버전을 개발자에게 배포 3 소프트웨어 QM락형 964 07-11
6	고프로, 발열 문제 드디어 해소되나? 8 기타/주변기기 QM브로리 2k 07-11
26	캐나다 소매점에서 AMD Ryzen 7 9700X 및 Ryzen 5 9600X CPU 등록 23 CPU/MB/RAM Wormhole 5.5k 07-11
4	데논, 홈 앰프 출시: 고음질 스트리밍 및 HEOS 멀티룸 기능 제공 4 음향기기 심심해❤️ 790 07-11
1	NATO, Internet Doomsday Plan 설명 - 위성을 통해 해저 인터넷 트래픽을 재라우팅하는 기술 연구 2 업계동향 QM제크 603 07-11
8	CPU-Z 다운로드 v2.10 10 소프트웨어 QM지름 3.1k 07-11
0	Intel ARC 그래픽 드라이버 다운로드 버전: 31.0.101.5762 2 소프트웨어 QM지름 1.3k 07-11
1	AYANEO, 120Hz OLED 탑재 'Pocket EVO' 발표 4 기타/주변기기 QM브로리 2k 07-11
12	ASUS, ROG Tessen 스마트폰 컨트롤러 출시 13 기타/주변기기 QM브로리 1.3k 07-11