하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

오픈 AI, 사용자가 AI로 포르노를 만들 수 있도록 허용하는 것을 고려 중

블랙웰

51 9199 41 2024.05.10 19:44

<img src="https://img2.quasarzone.com/editor/2024/05/10/8800de2247bd8006087f00892697692d.png" alt="퀘이사존"> 딥페이크는 여전히 금지됩니다.
 주류 생성 AI 회사들은 사용자가 음란물 및 기타 노골적인 콘텐츠를 생성하는 것을 막기 위해 필터와 가드레일을 엄격하게 사용하고 있지만, ChatGPT와 DALL-E의 개발사인 OpenAI는 이러한 행위를 허용하는 것을 고려하고 있습니다. 하지만 딥페이크 생성 금지 등 몇 가지 제한 사항이 있을 것입니다.
 OpenAI가 최근 공개한 모델 사양 문서에 따르면 포르노 및 기타 NSFW 콘텐츠 생성에 대해 강경했던 회사의 입장이 곧 완화될 수 있음을 알 수 있습니다.
 "우리는 API와 ChatGPT를 통해 연령에 적합한 맥락에서 NSFW 콘텐츠를 생성하는 기능을 책임감 있게 제공할 수 있는지 검토하고 있습니다."라고 OpenAI는 설명합니다. "이 영역에서 모델 행동에 대한 사용자 및 사회적 기대치를 더 잘 이해할 수 있기를 기대합니다."
 이 회사는 사용자가 "책임감 있게" 만들 수 있는 콘텐츠에는 에로티카, 극단적인 유혈, 비방, 원치 않는 욕설이 포함된다고 말합니다. 현재 OpenAI의 규정은 성적으로 노골적이거나 선정적인 콘텐츠를 금지하고 있습니다. <img src="https://img2.quasarzone.com/editor/2024/05/10/e745395a58bb35c1033a9d7d3a2110b6.png" alt="퀘이사존"> 모델 사양 문서에 참여한 OpenAI 모델 리드 조앤 장은 NPR과의 인터뷰에서 사용자가 잠재적으로 불법적인 것을 만들 수 없으며, X에서 퍼진 테일러 스위프트 이미지와 같은 딥페이크는 절대 허용되지 않을 것이라고 강조했습니다. Microsoft는 인터넷에 가수의 노골적인 가짜가 등장한 후 텍스트 이미지 변환 도구 디자이너를 변경했습니다.
 "우리는 법이나 다른 사람의 권리를 침해하지 않는 범위 내에서 사람들이 최대한 통제할 수 있도록 하고 싶지만 딥페이크 사용은 절대 허용할 수 없습니다."라고 장은 말했습니다. "그렇다고 해서 지금 AI 포르노를 만들려고 하는 것은 아닙니다."
 장은 OpenAI가 자사의 AI 제품에서 에로틱한 텍스트와 누드 이미지를 항상 금지해야 하는지에 대한 논의를 시작하고 싶다고 덧붙였습니다.
 OpenAI 사용자가 언젠가 AI가 생성한 포르노로 간주되는 이미지를 만들 수 있느냐는 질문에 장은 "포르노에 대한 정의에 따라 달라질 수 있습니다. 딥페이크가 포함되지 않는다면요. 이것이 바로 우리가 하고 싶은 대화입니다."
 우리는 최근의 공격 사례를 포함해 생성형 AI 서비스에 적용된 보안 필터와 제한을 우회하는 사례를 많이 보아왔습니다. 우려되는 점은 OpenAI가 제품의 필터를 약화시킴으로써 딥페이크와 불법 자료를 더욱 쉽게 만들 수 있게 될 것이라는 점입니다.
 비평가들은 OpenAI가 이런 길을 고려하고 있다는 사실 자체가 안전하고 유익한 AI를 생산한다는 사명 선언을 조롱하는 것이라고 말합니다. 스탠포드 인터넷 관측소의 리서치 매니저인 르네 디레스타는 NPR과의 인터뷰에서 합법적인 포르노를 제공하는 OpenAI가 불법 콘텐츠를 만들 수 있는 수상한 오픈소스 모델을 사용하는 사람들보다 더 나은 대안이 될 수 있다고 다른 관점을 제시했습니다.

블랙웰

행성: 은하

포인트: 637,557 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 51개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

20.9k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
2	"로봇 자율성 부여할수록 위험 수반…통제 기술 중요" 3 기타/주변기기 블랙웰 303 06-01
12	‘삼성전자 기밀 빼내 특허소송’ 前 부사장 구속 20 업계동향 고윤하앍 2.3k 05-31
13	게일, Ryzen 8000G용 DDR5-9000 듀얼 채널 키트 발표 및 DDR5-10200 공개 예정 20 CPU/MB/RAM Wormhole 2.9k 05-31
3	미국, 중동에 대한 엔비디아, AMD AI GPU 라이선스 수출 연기 4 업계동향 블랙웰 882 05-31
15	기가바이트, 새로운 AMD B840 칩셋 확인: CPU 오버클럭과 PCIe Gen5 미지원 34 CPU/MB/RAM Wormhole 3.2k 05-31
3	이 라즈베리 파이 AI 시계는 현재 시간을 듣고 냄새를 맡습니다. 4 기타/주변기기 블랙웰 813 05-31
42	AMD Ryzen 9000 시리즈 CPU 세부 정보 유출, 800 시리즈 보드는 최대 DDR5-8000 지원 60 CPU/MB/RAM Wormhole 9.1k 05-31
6	구글, 말레이시아에 20억 달러 투자…데이터센터·AI 중심 10 업계동향 QM바나 614 05-31
3	EU, 중국산 전기차에 관세 부과 결정 연기 7 업계동향 QM바나 736 05-31
10	한국 반도체 재고 33.7% 줄어…10년만에 최대 감소폭 13 업계동향 빌보 2.7k 05-31
1	5월 D램 고정거래가격 보합세…전월 급등 후 '숨고르기' 2 CPU/MB/RAM 빌보 519 05-31
30	쿠거, 컴퓨텍스에서 선보일 새로운 케이스, 팬, 게이밍 의자 공개 37 기타/주변기기 Wormhole 3.6k 05-31
4	메타, 지난 분기 가짜 콘텐츠 게시 혐의로 2,000개 이상 계정 삭제, 이스라엘이 주요 출처 6 업계동향 QM락형 767 05-31
12	엔비디아 NVLink의 직접적인 경쟁자인 "UALink" 개발 17 네트워크 블랙웰 3.4k 05-31
33	라이젠 5700X3D, 아마존에서 사상 최저 가격인 199달러로 인하 45 CPU/MB/RAM 블랙웰 7.4k 05-31
4	쿨러마스터 데이터 유출로 50만명 고객 정보가 해커에게 노출된 것으로 추정됨 5 업계동향 심심해❤️ 864 05-31
6	AOC Q27G10ZE 출시 260Hz 27인치 QHD Fast IPS 디스플레이 7 디스플레이 QM안나 637 05-31
3	미국 그래픽 카드 및 마더보드 관세가 1년 연기 7 업계동향 QM지름 2.1k 05-31
1	에이서 Acer Predator X34 V3가 공식 출시되었습니다. 곡선형 미니 LED 180Hz. 3 디스플레이 QM안나 735 05-31
20	엔비디아 CEO, 현지 거리 방문 중 대만을 '가장 중요한 국가 중 하나'라고 말하다 21 업계동향 QM지름 3.7k 05-31
5	중국, 처음으로 중소형 OLED 패널 생산량 한국 추월, 신규 OLED 공장 투자 급증 10 디스플레이 심심해❤️ 2.1k 05-31
6	구글, 논란이 되는 오래된 크롬 확장 프로그램 비활성화 계획 6월 3일 시작 9 업계동향 QM건빵 2.5k 05-31
25	[루머] RTX 5090, 448비트 버스 및 28GB GDDR7 메모리를 갖춘 GB202 GPU 컷칩 탑재 50 그래픽카드 Wormhole 11.5k 05-31
35	리안 리, PC 케이스 레이아웃을 재정의하는 컴팩트 타워 SUP-01 케이스 출시 54 케이스 Wormhole 5.9k 05-31
13	8BitDo, IBM M에서 영감을 받은 레트로 텐키리스 기계식 키보드 발표 17 키보드/마우스 Wormhole 3k 05-31
4	Spacetop G1 소개: 공간 컴퓨팅 시대를 위한 노트북 4 기타/주변기기 Wormhole 1.4k 05-31
5	조텍 ZONE 게이밍 핸드헬드 사양 유출, AMD Ryzen 7 8840U 탑재 4 기타/주변기기 Wormhole 883 05-31
2	NVIDIA NVLink에 맞서기 위한 AMD, Broadcom, Cisco, Google, HPE, Intel, Meta 및 Microsoft Form Ultr... 2 업계동향 Wormhole 1k 05-31
4	필립스, 180Hz QHD Fast IPS 패널 탑재 Evnia 27M2N5500 게이밍 모니터 해외 시장 출시 3 디스플레이 Wormhole 484 05-31
2	2024년은 CPU 및 GPU 출하량 감소로 시작, AMD는 두 자릿수 감소 직면 5 업계동향 블랙웰 2.4k 05-31