하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

구글 제미니 AI, 구글 드라이브에 호스팅된 PDF 파일을 무단으로 스캔하다 적발

블랙웰

2 1405 1 2024.07.15 06:37

<p><img src="https://img2.quasarzone.com/editor/2024/07/15/0f2cf9d7429164b8d0dc95ce020fbdd7.png" alt="퀘이사존"></p><p><br></p><p>AI 거버넌스 선임 고문인 케빈 뱅크스턴이 구글 제미니의 행동에 대해 설명합니다.
</p><p><br></p><p>아래에 첨부된 Kevin Bankster의 트위터에 올라온 보고서에 따르면, 우리가 원하든 원치 않든 기술 업계가 AI를 광범위하게 추진하는 가운데 Google의 Gemini AI 서비스가 이제 사용자의 명시적인 허가 없이 비공개 드라이브 문서를 읽고 있는 것으로 보입니다. Bankster는 특히 자신과 같은 사용자에게 이런 문제가 발생할 수 있는 이유를 설명하지만, 민감한 개인 정보를 완전히 통제할 수 없다는 것은 Google과 같은 규모의 회사에서 용납할 수 없는 일이며, 앞으로 AI가 자주 출시될 때 개인정보 보호에 대한 우려를 불식시키는 좋은 징조는 아닙니다.
</p><p><br></p><div><blockquote class="twitter-tweet" align="center"><p lang="en" dir="ltr">Just pulled up my tax return in <a href="https://twitter.com/Google?ref_src=twsrc%5Etfw">@Google</a> Docs--and unbidden, Gemini summarized it. So...Gemini is automatically ingesting even the private docs I open in Google Docs? WTF, guys. I didn't ask for this. Now I have to go find new settings I was never told about to turn this crap off.</p>— Kevin Bankston (@KevinBankston) <a href="https://twitter.com/KevinBankston/status/1811075836558114968?ref_src=twsrc%5Etfw">July 10, 2024</a></blockquote>

<br></div><div>그렇다면 정확히 무슨 일이 벌어지고 있는 걸까요? Google 지원팀과 Gemini AI 자체도 잘 모르는 것 같지만 Kevin Bankston이 전체 스레드에서 훨씬 더 자세한 내용을 제공한 후 몇 가지 이론을 제시했습니다. 처음 게시한 글과는 달리, 이 문제는 Google 문서 도구가 아닌 Google 드라이브라는 큰 범주 내에서 기술적으로 발생하고 있지만 문서 도구에도 적용될 수 있는 문제일 가능성이 높습니다.</div><div><br></div><div>그렇다면 이 문제의 원인은 무엇일까요? Google의 Gemini AI에 따르면 Gemini에 정보를 제공하는 데 사용되는 개인 정보 설정이 공개적으로 사용 가능해야 하지만 그렇지 않다는 것은 AI가 "환각(거짓말)을 하고 있거나" Google 서버의 일부 내부 시스템이 완전히 오작동하고 있다는 것을 의미합니다. 어느 쪽이든, 이 개인 데이터가 제미니 AI를 학습시키는 데 사용되지 않는다고 해도 좋은 모습은 아닙니다.</div><div><br></div><div>게다가 뱅크스턴은 결국 문제의 설정 토글을 찾아냈지만 Gmail, 드라이브, 문서에서 제미니 요약 기능이 이미 비활성화되어 있었습니다. 게다가 처음에 Gemini 봇이 가리켰던 웹 페이지와는 완전히 다른 위치에 있었습니다.</div><div><br></div><div>Bankston의 경우 이 문제는 Google 드라이브에 국한된 것으로 보이며, 적어도 하나의 문서에서 Gemini 버튼을 누른 후에만 발생했습니다. 일치하는 문서 유형(이 경우 PDF)은 이후 Google 드라이브 내에서 열리는 동일한 유형의 모든 파일에 대해 자동으로 Google Gemini를 트리거합니다. 또한 2023년에 Google 작업 공간 연구소를 활성화하여 의도한 Gemini AI 설정을 무효화했기 때문에 발생한 문제일 수 있다는 이론을 세우고 있습니다.</div><div><br></div><div>이 문제가 구글 워크스페이스 랩 사용자에게만 국한된 문제라고 하더라도 구글의 최신 기술을 테스트하는 데 도움을 주었다는 점에서 상당히 심각한 단점입니다. 사용자 동의는 특히 잠재적으로 민감한 정보에 대해서는 여전히 세분화된 기준으로 중요하며, Google은 이러한 원칙을 지키지 않음으로써 사용자 기반의 적어도 한 부분에서는 완전히 실패했습니다.</div><p>
</p><p>
</p>

블랙웰

행성: 은하

포인트: 652,362 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 2개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

21.2k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
0	LG 그램, 美 컨슈머리포트 노트북 평가 애플과 공동 1위 노트북 큰돌 50 18:52
7	쇼핑몰 알렛츠 영업종료…판매자·소비자 "제2의 티메프 우려" 14 기타/주변기기 빌보 1.2k 14:00
17	MS, 미지원 CPU에서 윈도우 11 우회 설치를 막는 패치 적용 24 소프트웨어 QM포시포시 2.4k 11:49
18	저절로 입혀지는 아이언맨 슈트 가능케 하는 '나노로봇' 19 기타/주변기기 지수테이블 2.5k 02:30
35	ASUS, 차세대 AMD X870E 및 X870 메인보드 티저 공개 50 CPU/MB/RAM Wormhole 5.4k 08-17
18	티몬·위메프에 이어 '인터파크커머스'도 기업회생 신청 32 업계동향 빌보 4.7k 08-17
3	[루머] 기가바이트, GDDR6 메모리 탑재 4개의 RTX 4070 WindForce V2 준비 중 7 그래픽카드 Wormhole 2.8k 08-17
5	가드레일 없는 '그록 -2' 이미지 생성...AI 규제 결정타 되나 6 업계동향 큰돌 1.1k 08-17
50	ARM, 엔비디아/인텔에 대항할 게이밍 GPU 개발 중 81 그래픽카드 QM포시포시 5.6k 08-17
11	소프트뱅크 AI 반도체, 인텔 대신 TSMC가 만드나 14 업계동향 QM포시포시 1.6k 08-17
10	SK하이닉스, '하이-NA' EUV 장비 2026년 첫 도입 9 업계동향 빌보 1.7k 08-17
15	인텔, 차세대 HEDT CPU용 W890 칩셋 준비, P-코어가 많은 Granite Rapids-X가 될 것으로 보입니다. 22 CPU/MB/RAM user_854318 2.3k 08-17
51	"주차 했는데 불 붙어"…이번엔 테슬라 '펑', 1시간 넘게 물 뿌렸다 110 업계동향 지수테이블 6.7k 08-17
14	윈도우 11 프리뷰 빌드에서 FAT32 파티션 크기가 30년 만에 2TB로 증가 14 소프트웨어 Wormhole 3.3k 08-16
32	[루머] 인텔 코어 울트라 9 애로우 레이크 QS는 5.7GHz 클럭, 모든 P코어에서 5.4GHz 달성 58 CPU/MB/RAM Wormhole 6.3k 08-16
3	인텔 사파이어 래피즈 리프레시 박스 사진 유출 6 CPU/MB/RAM Wormhole 1.9k 08-16
8	AMD는 ZEN2 마티스에도 싱크클로즈 패치를 제공할 것 7 CPU/MB/RAM 류오동 2.4k 08-16
14	안텍, 새로운 SF850X SFX 80 Plus Gold 파워 서플라이 출시 19 파워 Wormhole 1.1k 08-16
35	MSI, CAMM2 DDR5 메모리 이점 강조: 높은 속도와 낮은 대기 시간, 시원하고 혁신적인 디자인 43 CPU/MB/RAM QM달려 2.2k 08-16
14	삼성·SK하이닉스 임원 연봉 삭감, 상반기 급여 20~30% 삭감 28 업계동향 QM바나 3.8k 08-16
4	AI 처리 기능 내장한 3D DRAM, 기존 HBM을 대체할 새로운 기술 6 업계동향 QM바나 1.2k 08-16
3	2024년 2분기 출하 폴더블 OLED 패널 약 1,000만 대, 기록 경신 3 디스플레이 QM이라 318 08-16
6	MSI, 240Hz MPG 321CURX QD-OLED 곡면 게이밍 모니터 발표 7 디스플레이 Wormhole 641 08-16
19	컬러풀, iGame DDR5 Loong Edition 메모리 출시 29 CPU/MB/RAM Wormhole 1.3k 08-16
1	MSI, 새로운 스타워즈 아웃로즈 게임 번들 발표 2 기타/주변기기 Wormhole 488 08-16
5	삼성, TSMC보다 먼저 2024년 4분기 또는 2025년 1분기에 고NA EUV 장비 설치 7 업계동향 QM달려 1.1k 08-16
3	벤큐, GV50 프로젝터 출시: 침실 천장에 대형 스크린의 스릴을 선사 4 기타/주변기기 심심해❤️ 498 08-16
1	페로브스카이트 양자점을 통한 효율적인 딥블루 LED로 과제 극복 3 디스플레이 QM이라 322 08-16
1	나카미치, 드래곤 홈 시네마 시스템을 위한 12인치 서브우퍼 업그레이드 출시 1 음향기기 심심해❤️ 435 08-16
23	TCL, 미니LED TV 판매량 삼성과 격차 좁히고 LG를 큰 차이로 추월 29 디스플레이 심심해❤️ 1.9k 08-16