하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

오픈 AI, 사용자가 AI로 포르노를 만들 수 있도록 허용하는 것을 고려 중

블랙웰

51 9182 41 2024.05.10 19:44

<img src="https://img2.quasarzone.com/editor/2024/05/10/8800de2247bd8006087f00892697692d.png" alt="퀘이사존"> 딥페이크는 여전히 금지됩니다.
 주류 생성 AI 회사들은 사용자가 음란물 및 기타 노골적인 콘텐츠를 생성하는 것을 막기 위해 필터와 가드레일을 엄격하게 사용하고 있지만, ChatGPT와 DALL-E의 개발사인 OpenAI는 이러한 행위를 허용하는 것을 고려하고 있습니다. 하지만 딥페이크 생성 금지 등 몇 가지 제한 사항이 있을 것입니다.
 OpenAI가 최근 공개한 모델 사양 문서에 따르면 포르노 및 기타 NSFW 콘텐츠 생성에 대해 강경했던 회사의 입장이 곧 완화될 수 있음을 알 수 있습니다.
 "우리는 API와 ChatGPT를 통해 연령에 적합한 맥락에서 NSFW 콘텐츠를 생성하는 기능을 책임감 있게 제공할 수 있는지 검토하고 있습니다."라고 OpenAI는 설명합니다. "이 영역에서 모델 행동에 대한 사용자 및 사회적 기대치를 더 잘 이해할 수 있기를 기대합니다."
 이 회사는 사용자가 "책임감 있게" 만들 수 있는 콘텐츠에는 에로티카, 극단적인 유혈, 비방, 원치 않는 욕설이 포함된다고 말합니다. 현재 OpenAI의 규정은 성적으로 노골적이거나 선정적인 콘텐츠를 금지하고 있습니다. <img src="https://img2.quasarzone.com/editor/2024/05/10/e745395a58bb35c1033a9d7d3a2110b6.png" alt="퀘이사존"> 모델 사양 문서에 참여한 OpenAI 모델 리드 조앤 장은 NPR과의 인터뷰에서 사용자가 잠재적으로 불법적인 것을 만들 수 없으며, X에서 퍼진 테일러 스위프트 이미지와 같은 딥페이크는 절대 허용되지 않을 것이라고 강조했습니다. Microsoft는 인터넷에 가수의 노골적인 가짜가 등장한 후 텍스트 이미지 변환 도구 디자이너를 변경했습니다.
 "우리는 법이나 다른 사람의 권리를 침해하지 않는 범위 내에서 사람들이 최대한 통제할 수 있도록 하고 싶지만 딥페이크 사용은 절대 허용할 수 없습니다."라고 장은 말했습니다. "그렇다고 해서 지금 AI 포르노를 만들려고 하는 것은 아닙니다."
 장은 OpenAI가 자사의 AI 제품에서 에로틱한 텍스트와 누드 이미지를 항상 금지해야 하는지에 대한 논의를 시작하고 싶다고 덧붙였습니다.
 OpenAI 사용자가 언젠가 AI가 생성한 포르노로 간주되는 이미지를 만들 수 있느냐는 질문에 장은 "포르노에 대한 정의에 따라 달라질 수 있습니다. 딥페이크가 포함되지 않는다면요. 이것이 바로 우리가 하고 싶은 대화입니다."
 우리는 최근의 공격 사례를 포함해 생성형 AI 서비스에 적용된 보안 필터와 제한을 우회하는 사례를 많이 보아왔습니다. 우려되는 점은 OpenAI가 제품의 필터를 약화시킴으로써 딥페이크와 불법 자료를 더욱 쉽게 만들 수 있게 될 것이라는 점입니다.
 비평가들은 OpenAI가 이런 길을 고려하고 있다는 사실 자체가 안전하고 유익한 AI를 생산한다는 사명 선언을 조롱하는 것이라고 말합니다. 스탠포드 인터넷 관측소의 리서치 매니저인 르네 디레스타는 NPR과의 인터뷰에서 합법적인 포르노를 제공하는 OpenAI가 불법 콘텐츠를 만들 수 있는 수상한 오픈소스 모델을 사용하는 사람들보다 더 나은 대안이 될 수 있다고 다른 관점을 제시했습니다.

블랙웰

행성: 은하

포인트: 633,084 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 51개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

20.8k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
7	선파운더의 Pironman 5 라즈베리파이 데스크탑 케이스는 RGB LED와 SSD를 지원합니다 8 케이스 블랙웰 850 05-30
2	지속적인 사이버 공격에 직면한 인터넷 아카이브 2 업계동향 블랙웰 854 05-30
12	삼성디스플레이, 3년 채 안돼 QD-OLED 출하량 100만대 기록 13 디스플레이 블랙웰 1.1k 05-30
2	OLED 전환에 양대 디스플레이 '성장'…변수는 '中 추격' 2 디스플레이 블랙웰 427 05-30
18	8BitDo, 계산기로도 사용 가능한 '레트로 18 기계식 넘패드' 예약 주문 시작 25 키보드/마우스 Wormhole 5.2k 05-29
47	RTX 5090은 놀랍도록 날렵할 수 있습니다 82 그래픽카드 블랙웰 18k 05-29
0	Microsoft 개발자가 NES에서 .NET을 시연하여 .NES 제공 2 소프트웨어 블랙웰 1.2k 05-29
7	독일에 있는 인텔의 1nm급 팹이 너무 많은 흑토와 EU 보조금 승인으로 지연되고 있습니다 7 업계동향 블랙웰 2.9k 05-29
6	러시아, 최초의 칩 제조 도구 개발 7 업계동향 블랙웰 1.3k 05-29
13	삼성전자 노조, 창립 55년 만에 첫 파업 선언 29 업계동향 Wormhole 1.8k 05-29
8	Maxsun, 인텔 800 시리즈 및 AMD 차세대 제품일 가능성이 큰 B850/B840 보드 EEC 등록 10 CPU/MB/RAM Wormhole 1.7k 05-29
4	AOC, 27인치 270Hz Fast VA 패널 탑재 27G2ZN3-BK 게이밍 모니터 출시 5 디스플레이 Wormhole 511 05-29
26	[루머] AMD, 차세대 칩에 삼성파운드리 3nm GAA 공정 사용 가능성 63 업계동향 Wormhole 8k 05-29
2	2024년 1분기 NAND 플래시 산업 매출 28.1% 증가, 2분기에도 성장 지속될 것으로 예상 5 저장장치 Wormhole 501 05-29
20	GPT-5? OpenAI, '다음 세대 모델' 훈련 시작 22 업계동향 QM건빵 3.3k 05-29
0	삼성전자, 레녹스와 미국·캐나다 합작법인 설립 업계동향 블랙웰 378 05-29
6	인텔 Arc Graphics 31.0.101.5534 드라이버 출시 9 소프트웨어 Wormhole 687 05-29
4	당베이 마스 프로 2 프로젝터 출시: 구글 TV와 넷플릭스를 지원하는 레이저 프로젝터 4 기타/주변기기 심심해❤️ 2.5k 05-29
5	마란츠 M1 출시: 작지만 견고한 Hi-Fi 앰프/네트워크 플레이어 9 음향기기 심심해❤️ 802 05-29
63	RTX 5090 FE는 2슬롯 두께, 2팬쿨러 탑재 95 그래픽카드 QM포시포시 8.6k 05-29
7	SK하이닉스, 차세대 HBM4E 메모리에 컴퓨팅 및 캐싱 기능 통합 9 CPU/MB/RAM Wormhole 1.8k 05-29
38	팀그룹, DDR5-10000 메모리 포함 컴퓨텍스 2024에서 선보일 제품 미리보기 제공 56 기타/주변기기 Wormhole 5.9k 05-29
9	컬러풀, 컴퓨텍스 2024에서 새로운 사전 제작 데스크탑 게이밍 PC와 노트북 공개 15 CPU/MB/RAM Wormhole 1.3k 05-29
8	조텍, 컴퓨텍스 2024에서 선보일 여러 제품(휴대용 게이밍 PC, 미니 PC, 그래픽 카드) 공개 9 CPU/MB/RAM Wormhole 1.4k 05-29
7	FSP, Computex 공개를 위한 Advan 및 Vita PSU 시리즈, 새로운 케이스 및 AIO CLC 공개 8 케이스 신지™ 833 05-29
5	마이크론의 히로시마 추가 DRAM 팹 계획 2027년까지 연기 6 업계동향 블랙웰 476 05-29
1	인텔 Innovation 2024는 9월 24일 산호세에서 개최: Arrow Lake와 Granite Rapids가 주요 논의 포인트 7 업계동향 QM지름 908 05-29
14	삼성, 6월에 1nm 계획 공개하고 2026년으로 앞당길 것으로 예상 49 업계동향 신지™ 3.6k 05-29
0	Calman 업데이트, EU에서 2024년형 LG TV 및 하이센스 TV 지원 추가 1 디스플레이 심심해❤️ 352 05-29
28	중고로 샀더니 벽돌 배달?…우체국 택배, '사진'으로 미리 확인한다 39 기타/주변기기 빌보 10.5k 05-29