하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

오픈 AI, 사용자가 AI로 포르노를 만들 수 있도록 허용하는 것을 고려 중

블랙웰

51 9179 41 2024.05.10 19:44

<img src="https://img2.quasarzone.com/editor/2024/05/10/8800de2247bd8006087f00892697692d.png" alt="퀘이사존"> 딥페이크는 여전히 금지됩니다.
 주류 생성 AI 회사들은 사용자가 음란물 및 기타 노골적인 콘텐츠를 생성하는 것을 막기 위해 필터와 가드레일을 엄격하게 사용하고 있지만, ChatGPT와 DALL-E의 개발사인 OpenAI는 이러한 행위를 허용하는 것을 고려하고 있습니다. 하지만 딥페이크 생성 금지 등 몇 가지 제한 사항이 있을 것입니다.
 OpenAI가 최근 공개한 모델 사양 문서에 따르면 포르노 및 기타 NSFW 콘텐츠 생성에 대해 강경했던 회사의 입장이 곧 완화될 수 있음을 알 수 있습니다.
 "우리는 API와 ChatGPT를 통해 연령에 적합한 맥락에서 NSFW 콘텐츠를 생성하는 기능을 책임감 있게 제공할 수 있는지 검토하고 있습니다."라고 OpenAI는 설명합니다. "이 영역에서 모델 행동에 대한 사용자 및 사회적 기대치를 더 잘 이해할 수 있기를 기대합니다."
 이 회사는 사용자가 "책임감 있게" 만들 수 있는 콘텐츠에는 에로티카, 극단적인 유혈, 비방, 원치 않는 욕설이 포함된다고 말합니다. 현재 OpenAI의 규정은 성적으로 노골적이거나 선정적인 콘텐츠를 금지하고 있습니다. <img src="https://img2.quasarzone.com/editor/2024/05/10/e745395a58bb35c1033a9d7d3a2110b6.png" alt="퀘이사존"> 모델 사양 문서에 참여한 OpenAI 모델 리드 조앤 장은 NPR과의 인터뷰에서 사용자가 잠재적으로 불법적인 것을 만들 수 없으며, X에서 퍼진 테일러 스위프트 이미지와 같은 딥페이크는 절대 허용되지 않을 것이라고 강조했습니다. Microsoft는 인터넷에 가수의 노골적인 가짜가 등장한 후 텍스트 이미지 변환 도구 디자이너를 변경했습니다.
 "우리는 법이나 다른 사람의 권리를 침해하지 않는 범위 내에서 사람들이 최대한 통제할 수 있도록 하고 싶지만 딥페이크 사용은 절대 허용할 수 없습니다."라고 장은 말했습니다. "그렇다고 해서 지금 AI 포르노를 만들려고 하는 것은 아닙니다."
 장은 OpenAI가 자사의 AI 제품에서 에로틱한 텍스트와 누드 이미지를 항상 금지해야 하는지에 대한 논의를 시작하고 싶다고 덧붙였습니다.
 OpenAI 사용자가 언젠가 AI가 생성한 포르노로 간주되는 이미지를 만들 수 있느냐는 질문에 장은 "포르노에 대한 정의에 따라 달라질 수 있습니다. 딥페이크가 포함되지 않는다면요. 이것이 바로 우리가 하고 싶은 대화입니다."
 우리는 최근의 공격 사례를 포함해 생성형 AI 서비스에 적용된 보안 필터와 제한을 우회하는 사례를 많이 보아왔습니다. 우려되는 점은 OpenAI가 제품의 필터를 약화시킴으로써 딥페이크와 불법 자료를 더욱 쉽게 만들 수 있게 될 것이라는 점입니다.
 비평가들은 OpenAI가 이런 길을 고려하고 있다는 사실 자체가 안전하고 유익한 AI를 생산한다는 사명 선언을 조롱하는 것이라고 말합니다. 스탠포드 인터넷 관측소의 리서치 매니저인 르네 디레스타는 NPR과의 인터뷰에서 합법적인 포르노를 제공하는 OpenAI가 불법 콘텐츠를 만들 수 있는 수상한 오픈소스 모델을 사용하는 사람들보다 더 나은 대안이 될 수 있다고 다른 관점을 제시했습니다.

블랙웰

행성: 은하

포인트: 632,114 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 51개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

20.8k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
1	AMD RDNA 3.5 "Radeon 890M & 880M" GPU 게임 성능 및 전력 확장 세부 정보 1 CPU/MB/RAM Wormhole 111 21:51
1	티피링크, 99달러에 Archer BE3600 WiFi 7 라우터 출시 1 네트워크 Wormhole 77 21:50
1	윈도우 11 7월 업데이트로 인해 Bitlocker가 중단됨, 복구 강제 2 소프트웨어 Wormhole 330 21:00
6	RTX 40 GPU 전 세계적으로 공급 부족 가능성: 4070 및 4060 시리즈가 가장 큰 영향을 받음 9 그래픽카드 Wormhole 772 19:17
4	티몬·위메프, 기업회생 신청…셀러 눈덩이 피해 현실로 7 업계동향 Wormhole 444 19:14
9	Intel Core Ultra 9 288V 루나 레이크 CPU 긱벤치 유출 25 CPU/MB/RAM Wormhole 1.1k 18:33
5	[루머]SK하이닉스, 낸드/SSD 자회사 솔리다임 미국 IPO 검토중이라는 소식 7 업계동향 QM바나 703 17:55
9	레이저, 헬로 키티와 프랜즈 게임 기어 컬렉션 출시 9 기타/주변기기 QM제크 357 17:46
0	VueReal과 RiTdisplay가 전략적 파트너십을 형성 업계동향 QM안나 90 17:23
0	BOE와 TCL CSOT, 중국 디스플레이 산업 회복을 위한 벨 울려 디스플레이 QM안나 185 17:22
7	삼성 오디세이 OLED G9 (G95SD) 공식 소개 12 디스플레이 왕구이 588 17:13
7	15.6인치 풀 HD LCD가 장착된 잘만 Z10 DS 미드 타워 PC 케이스 출시 13 케이스 QM락형 577 16:46
9	8월 RTX 4070 이상 제품 공급 부족 예상...메모리 공급 부족 때문 11 그래픽카드 QM포시포시 1.6k 15:16
8	큐텐 구영배 “고객 피해 500억…개인 지분 매각·담보로 사태 해결” 17 업계동향 user_854318 2.1k 13:57
6	삼성, 오디세이 OLED G9(G95SD): 공식 소개 영상 10 디스플레이 빌보 1.2k 13:03
0	LG디스플레이 2분기 적자, 수요 변동성 반영 업계동향 QM이라 910 12:53
1	삼성전자 노사, 오늘 오후부터 사흘간 '끝장교섭' 진행 1 업계동향 빌보 520 12:52
5	티메프 사태에 우려 커진 용산 전자상가 6 업계동향 빌보 1.7k 12:42
1	Kopin의 NeuralDisplay 기술이 알파 테스트 단계에 도달 1 업계동향 QM이라 257 12:37
0	POCO 무선 이어폰 POCO M6 Plus 5G, POCO Buds X1 인도 출시 음향기기 QM브로리 341 12:01
2	뷰소닉, 27인치 4K 모니터 VX2730 공개 3 디스플레이 QM브로리 280 11:54
26	인텔, 65W 및 논-K CPU도 불안정 이슈 영향 받을 수 있다고 확인 26 CPU/MB/RAM QM포시포시 3.2k 11:51
1	구글, 기후 예측 모델에 머신 러닝 추가 2 기타/주변기기 QM브로리 283 11:34
0	트러플 시큐리티, 깃허브 리포지토리는 반드시 삭제되지 않는 걸 발견 업계동향 QM브로리 264 11:33
1	그리마니 시스템, IS-21 Infrasonic 21인치 서브우퍼 출시 2 음향기기 심심해❤️ 179 11:27
5	소너스 파베르 콘체르티노 G4 출시: 고전적인 놀랍고도 값비싼 라우드 스피커 5 음향기기 심심해❤️ 372 10:01
1	EIZO, 울트라 HD IPS 모니터 FlexScan EV4340X 출시 2 디스플레이 QM락형 355 10:01
2	우주 레이저를 사용하여 ISS와 통신하는 NASA 3 기타/주변기기 QM건빵 419 09:52
2	미국 상원에서 DJI 드론 금지 조치 철회 - 2025년 NDAA 상원 초안에 '중국 공산당 드론 대응법' 포함되지 않음 3 업계동향 QM락형 453 09:49
5	AMD, XDNA 초고해상도 기술로 구동되는 기능이 풍부한 AI 제품군 Amuse 2.0 공개 3 업계동향 QM달려 1.1k 09:13