하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

구글 제미니 AI, 구글 드라이브에 호스팅된 PDF 파일을 무단으로 스캔하다 적발

블랙웰

2 1410 1 2024.07.15 06:37

<p><img src="https://img2.quasarzone.com/editor/2024/07/15/0f2cf9d7429164b8d0dc95ce020fbdd7.png" alt="퀘이사존"></p><p><br></p><p>AI 거버넌스 선임 고문인 케빈 뱅크스턴이 구글 제미니의 행동에 대해 설명합니다.
</p><p><br></p><p>아래에 첨부된 Kevin Bankster의 트위터에 올라온 보고서에 따르면, 우리가 원하든 원치 않든 기술 업계가 AI를 광범위하게 추진하는 가운데 Google의 Gemini AI 서비스가 이제 사용자의 명시적인 허가 없이 비공개 드라이브 문서를 읽고 있는 것으로 보입니다. Bankster는 특히 자신과 같은 사용자에게 이런 문제가 발생할 수 있는 이유를 설명하지만, 민감한 개인 정보를 완전히 통제할 수 없다는 것은 Google과 같은 규모의 회사에서 용납할 수 없는 일이며, 앞으로 AI가 자주 출시될 때 개인정보 보호에 대한 우려를 불식시키는 좋은 징조는 아닙니다.
</p><p><br></p><div><blockquote class="twitter-tweet" align="center"><p lang="en" dir="ltr">Just pulled up my tax return in <a href="https://twitter.com/Google?ref_src=twsrc%5Etfw">@Google</a> Docs--and unbidden, Gemini summarized it. So...Gemini is automatically ingesting even the private docs I open in Google Docs? WTF, guys. I didn't ask for this. Now I have to go find new settings I was never told about to turn this crap off.</p>— Kevin Bankston (@KevinBankston) <a href="https://twitter.com/KevinBankston/status/1811075836558114968?ref_src=twsrc%5Etfw">July 10, 2024</a></blockquote>

<br></div><div>그렇다면 정확히 무슨 일이 벌어지고 있는 걸까요? Google 지원팀과 Gemini AI 자체도 잘 모르는 것 같지만 Kevin Bankston이 전체 스레드에서 훨씬 더 자세한 내용을 제공한 후 몇 가지 이론을 제시했습니다. 처음 게시한 글과는 달리, 이 문제는 Google 문서 도구가 아닌 Google 드라이브라는 큰 범주 내에서 기술적으로 발생하고 있지만 문서 도구에도 적용될 수 있는 문제일 가능성이 높습니다.</div><div><br></div><div>그렇다면 이 문제의 원인은 무엇일까요? Google의 Gemini AI에 따르면 Gemini에 정보를 제공하는 데 사용되는 개인 정보 설정이 공개적으로 사용 가능해야 하지만 그렇지 않다는 것은 AI가 "환각(거짓말)을 하고 있거나" Google 서버의 일부 내부 시스템이 완전히 오작동하고 있다는 것을 의미합니다. 어느 쪽이든, 이 개인 데이터가 제미니 AI를 학습시키는 데 사용되지 않는다고 해도 좋은 모습은 아닙니다.</div><div><br></div><div>게다가 뱅크스턴은 결국 문제의 설정 토글을 찾아냈지만 Gmail, 드라이브, 문서에서 제미니 요약 기능이 이미 비활성화되어 있었습니다. 게다가 처음에 Gemini 봇이 가리켰던 웹 페이지와는 완전히 다른 위치에 있었습니다.</div><div><br></div><div>Bankston의 경우 이 문제는 Google 드라이브에 국한된 것으로 보이며, 적어도 하나의 문서에서 Gemini 버튼을 누른 후에만 발생했습니다. 일치하는 문서 유형(이 경우 PDF)은 이후 Google 드라이브 내에서 열리는 동일한 유형의 모든 파일에 대해 자동으로 Google Gemini를 트리거합니다. 또한 2023년에 Google 작업 공간 연구소를 활성화하여 의도한 Gemini AI 설정을 무효화했기 때문에 발생한 문제일 수 있다는 이론을 세우고 있습니다.</div><div><br></div><div>이 문제가 구글 워크스페이스 랩 사용자에게만 국한된 문제라고 하더라도 구글의 최신 기술을 테스트하는 데 도움을 주었다는 점에서 상당히 심각한 단점입니다. 사용자 동의는 특히 잠재적으로 민감한 정보에 대해서는 여전히 세분화된 기준으로 중요하며, Google은 이러한 원칙을 지키지 않음으로써 사용자 기반의 적어도 한 부분에서는 완전히 실패했습니다.</div><p>
</p><p>
</p>

블랙웰

행성: 은하

포인트: 652,362 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 2개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

21.2k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
3	최신 AI GPU 한 대는 연간 최대 3.7MWh의 전력을 소비합니다 4 그래픽카드 블랙웰 1.5k 06-15
1	AMD, Ryzen AI 300, 출시 시점에는 Copilot+ 기능이 제공되지 않을 것 4 CPU/MB/RAM 블랙웰 1.7k 06-15
3	Apple 인텔리전스 모델, 선택적 ChatGPT 및 개인 정보 보호 접근 방식에 대해 톺아보기 4 소프트웨어 큰돌 617 06-15
5	AMD 특허 구성 가능 멀티 칩렛 GPU: 이미지는 3개의 다이를 보여줍니다 5 그래픽카드 Wormhole 2.3k 06-15
16	기가바이트, 새로운 게이밍 케이스 AORUS C400 GLASS 출시 21 케이스 Wormhole 2.5k 06-15
5	"이번엔 좀 다를까?"…이용 약관 또 바꾸는 어도비, 사용자도 직원도 '한숨' 9 소프트웨어 블랙웰 1.4k 06-15
3	美 마이크론, 1분기 D램 매출 '껑충'…삼성·SK 추격 6 CPU/MB/RAM 블랙웰 992 06-15
7	PCIe 6.0 및 7.0 표준이 장애물에 부딪혔습니다 16 기타/주변기기 블랙웰 4.6k 06-14
50	XFX, AMD Radeon RX GPU용 탈착식 쿨러 그래픽카드 티저 공개 58 CPU/MB/RAM Wormhole 6.7k 06-14
2	중국은 중요한 리소그래피 칩 제조 도구의 1%만 생산하고 있습니다 4 업계동향 블랙웰 642 06-14
1	맥OS 세쿼이아의 '타일형 UI'가 전혀 기대되지 않는 이유 6 소프트웨어 큰돌 1.1k 06-14
0	러시아 칩 제조업체가 라즈베리 파이 경쟁 제품을 공개합니다 5 업계동향 블랙웰 1.2k 06-14
7	SK하이닉스, 경쟁사에 맞춰 4분기에 GDDR7 메모리 출시 예정 9 CPU/MB/RAM 블랙웰 1.7k 06-14
22	AMD Ryzen 9 7950X3D CPU 486달러로 하락 30 CPU/MB/RAM Wormhole 6k 06-14
2	HBM 왕좌 자리 지킨다…듀얼벤더⋅파운드리 강화나선 'SK하이닉스' 2 업계동향 빌보 735 06-14
0	WhatsApp에 오디오 화면 공유 기능 추가 소프트웨어 QM바나 334 06-14
21	삼성 컬러 전자종이(Color E-Paper) 공개: 저전력 소비의 혁신적인 디스플레이 18 디스플레이 심심해❤️ 3.5k 06-14
1	마이크로소프트는 리콜을 리콜합니다: 리콜 기능 Copilot+ Windows 빌드에 미포함 11 소프트웨어 블랙웰 1.2k 06-14
1	MSI, 진 여신전생 V 번들 출시 4 업계동향 QM제크 1k 06-14
9	Snapdragon X Elite는 iPhone 12보다 느림 24 노트북 블랙웰 2.5k 06-14
0	YouTube는 채널 QR 코드와 AI 생성 실시간 채팅 요약을 테스트하고 있습니다 업계동향 신지™ 595 06-14
9	MSI, DIY 및 후면 커넥터 메인보드용 새로운 PANO 시리즈 PC 케이스 공개 11 케이스 Wormhole 1.3k 06-14
19	MSI, 새로운 MAG Infinite E1 게이밍 데스크탑 발표 33 기타/주변기기 Wormhole 2.5k 06-14
3	중국 SMIC, 글로벌파운드리를 제치고 세계 3위 위탁생산 칩 제조업체로 부상 14 업계동향 QM락형 931 06-14
4	Amazon, AI 스타트업에 클라우드 크레딧 2억 3천만 달러 추가 4 업계동향 GPU 798 06-14
8	세계 최초의 RISC-V 노트북, 대규모 업그레이드를 통해 Ubuntu 탑재 14 노트북 QM제크 5.8k 06-14
4	AOC U32U3D 및 AOC U32U3은 AOC Graphic Pro 시리즈의 쌍둥이입니다. 5 디스플레이 QM안나 614 06-14
10	쿨러마스터 GM27QP는 27인치 곡면 VA 디스플레이, QHD 해상도 및 240Hz 재생률을 갖춘 데뷔 10 디스플레이 QM안나 542 06-14
3	퀄컴, 윈도우 노트북 탑재 Adreno X1 GPU 공개 13 업계동향 QM브로리 2k 06-14
1	Raspberry Pi는 ChatGPT를 통해 소름 끼치는 외눈박이 머리 회전 코알라 조수를 지원합니다 2 기타/주변기기 신지™ 1k 06-14