하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

오픈 AI, 사용자가 AI로 포르노를 만들 수 있도록 허용하는 것을 고려 중

블랙웰

51 9165 41 2024.05.10 19:44

<img src="https://img2.quasarzone.com/editor/2024/05/10/8800de2247bd8006087f00892697692d.png" alt="퀘이사존"> 딥페이크는 여전히 금지됩니다.
 주류 생성 AI 회사들은 사용자가 음란물 및 기타 노골적인 콘텐츠를 생성하는 것을 막기 위해 필터와 가드레일을 엄격하게 사용하고 있지만, ChatGPT와 DALL-E의 개발사인 OpenAI는 이러한 행위를 허용하는 것을 고려하고 있습니다. 하지만 딥페이크 생성 금지 등 몇 가지 제한 사항이 있을 것입니다.
 OpenAI가 최근 공개한 모델 사양 문서에 따르면 포르노 및 기타 NSFW 콘텐츠 생성에 대해 강경했던 회사의 입장이 곧 완화될 수 있음을 알 수 있습니다.
 "우리는 API와 ChatGPT를 통해 연령에 적합한 맥락에서 NSFW 콘텐츠를 생성하는 기능을 책임감 있게 제공할 수 있는지 검토하고 있습니다."라고 OpenAI는 설명합니다. "이 영역에서 모델 행동에 대한 사용자 및 사회적 기대치를 더 잘 이해할 수 있기를 기대합니다."
 이 회사는 사용자가 "책임감 있게" 만들 수 있는 콘텐츠에는 에로티카, 극단적인 유혈, 비방, 원치 않는 욕설이 포함된다고 말합니다. 현재 OpenAI의 규정은 성적으로 노골적이거나 선정적인 콘텐츠를 금지하고 있습니다. <img src="https://img2.quasarzone.com/editor/2024/05/10/e745395a58bb35c1033a9d7d3a2110b6.png" alt="퀘이사존"> 모델 사양 문서에 참여한 OpenAI 모델 리드 조앤 장은 NPR과의 인터뷰에서 사용자가 잠재적으로 불법적인 것을 만들 수 없으며, X에서 퍼진 테일러 스위프트 이미지와 같은 딥페이크는 절대 허용되지 않을 것이라고 강조했습니다. Microsoft는 인터넷에 가수의 노골적인 가짜가 등장한 후 텍스트 이미지 변환 도구 디자이너를 변경했습니다.
 "우리는 법이나 다른 사람의 권리를 침해하지 않는 범위 내에서 사람들이 최대한 통제할 수 있도록 하고 싶지만 딥페이크 사용은 절대 허용할 수 없습니다."라고 장은 말했습니다. "그렇다고 해서 지금 AI 포르노를 만들려고 하는 것은 아닙니다."
 장은 OpenAI가 자사의 AI 제품에서 에로틱한 텍스트와 누드 이미지를 항상 금지해야 하는지에 대한 논의를 시작하고 싶다고 덧붙였습니다.
 OpenAI 사용자가 언젠가 AI가 생성한 포르노로 간주되는 이미지를 만들 수 있느냐는 질문에 장은 "포르노에 대한 정의에 따라 달라질 수 있습니다. 딥페이크가 포함되지 않는다면요. 이것이 바로 우리가 하고 싶은 대화입니다."
 우리는 최근의 공격 사례를 포함해 생성형 AI 서비스에 적용된 보안 필터와 제한을 우회하는 사례를 많이 보아왔습니다. 우려되는 점은 OpenAI가 제품의 필터를 약화시킴으로써 딥페이크와 불법 자료를 더욱 쉽게 만들 수 있게 될 것이라는 점입니다.
 비평가들은 OpenAI가 이런 길을 고려하고 있다는 사실 자체가 안전하고 유익한 AI를 생산한다는 사명 선언을 조롱하는 것이라고 말합니다. 스탠포드 인터넷 관측소의 리서치 매니저인 르네 디레스타는 NPR과의 인터뷰에서 합법적인 포르노를 제공하는 OpenAI가 불법 콘텐츠를 만들 수 있는 수상한 오픈소스 모델을 사용하는 사람들보다 더 나은 대안이 될 수 있다고 다른 관점을 제시했습니다.

블랙웰

행성: 은하

포인트: 615,674 exp

작성물 댓글

모든회원 자기소개 펼치기

댓글: 51개

하드웨어 뉴스 - 최신 IT/하드웨어 정보를 만나보세요

공지 뉴스게시판 특별 규정(23.09.07)

퀘이사존

20.5k

11-08

전체 CPU/MB/RAM 그래픽카드 케이스 쿨링솔루션 저장장치 파워 키보드/마우스 음향기기 디스플레이 네트워크 소프트웨어 노트북 업계동향 기타/주변기기

추천	제목
0	Supermicro, 총 공급량의 25%에 달하는 대규모 NVIDIA Blackwell AI 서버 주문을 받았다. 1 업계동향 QM달려 734 05-21
3	HBM3e 생산량 급증으로 2024년 말까지 첨단 공정 웨이퍼 투입량의 35%를 차지할 것으로 예상 6 업계동향 QM달려 493 05-21
1	Lenovo, 최신 Yoga Slim 7x 및 ThinkPad T14s Gen 6로 Copilot+ PC 성능 강화 2 노트북 QM달려 840 05-21
1	ASUS, Windows 11 AI 기능이 탑재된 최초의 Copilot+ PC인 Vivobook S 15 출시 6 노트북 QM달려 878 05-21
2	Microsoft, 새로운 Surface Pro 및 Surface Laptop 발표 5 노트북 QM달려 3k 05-21
7	오픈AI, 스칼렛 요한슨 목소리 논란에…"GPT-4o 음성 일시 중단" 10 업계동향 빌보 1.5k 05-21
1	HP, Snapdragon X Elite를 탑재한 OmniBook X 및 EliteBook Ultra AI PC 공개 3 노트북 심심해❤️ 1k 05-21
10	30TB 넘보는 HDD 고용량화 경쟁 '후끈' 16 저장장치 빌보 1.4k 05-21
10	인텔 루나 레이크 3분기 출시, 15세대 애로우 레이크 데스크탑 4분기 출시 공식 확인 18 CPU/MB/RAM Wormhole 6.2k 05-21
3	삼성전자, 갤럭시 북 4 엣지 발표: 삼성의 차세대 AI PC로 Galaxy AI 생태계 확장 6 노트북 Wormhole 1.2k 05-21
5	AMD는 핫칩스 2024에서 차세대 Zen 5 아키텍처, 인텔은 16세대 루나 레이크에 대해 설명 2 CPU/MB/RAM Wormhole 3k 05-21
10	삼성, SID 2024에서 세계 최초 QD-LED 디스플레이 공개: OLED를 대체할 수 있는 기술 13 디스플레이 Wormhole 3.3k 05-21
6	3D마크의 타임 스파이 후속 스틸 노마드는 RTX 4090을 레이 트레이싱 없이 열심히 작동시키다 7 소프트웨어 Wormhole 1.6k 05-21
2	룽슨, 128코어 칩렛 기반 프로세서를 출시할 예정 4 CPU/MB/RAM 블랙웰 971 05-21
11	써멀 그리즐리, 새로운 히트 스프레더가 CPU 온도를 섭씨 15도 가까이 낮춘다고 주장 17 쿨링솔루션 블랙웰 3.9k 05-21
22	삼성파운드리, 엔비디아로부터 3nm 제품 수주를 올해 최우선 과제로 삼고 있음 51 업계동향 Wormhole 8k 05-21
4	ASUS, 세계 최초 글로시 WOLED ROG STRIX OLED XG27AQDM 게이밍 모니터 공개 6 디스플레이 Wormhole 870 05-21
0	현대차, 모빌리티 혁신·복합 문화 거점 'GBC' 조성한다 2 업계동향 블랙웰 347 05-21
3	삼성전자, 차세대 '3D D램' 개발 열공…"셀 16단 적층 시도" 4 CPU/MB/RAM 블랙웰 703 05-21
8	구글, 핀란드 하미나 데이터 센터로 핀란드 지역 난방 계획 10 업계동향 Wormhole 1.1k 05-20
20	미국에서 AMD Ryzen 7 5700X3D CPU 204달러로 하락 18 CPU/MB/RAM Wormhole 4.8k 05-20
6	미니포럼, 669달러에 인텔 코어 울트라 9 185H CPU 탑재 AtomMan X7 Ti 미니 PC 출시 9 기타/주변기기 Wormhole 1.8k 05-20
1	AMD, 대만에 새로운 R&D 센터 설립 예정: 파트너 프로그램을 통해 최첨단 프로세서 설계 장려 2 업계동향 Wormhole 424 05-20
19	새로운 파워 서플라이 인증 시스템, PPLP 등장 24 파워 QM포시포시 2.2k 05-20
3	크리에이티브, Zen Air SXFI 및 Creative Zen Hybrid SXFI TWS 이어버드 및 이어폰 발표 7 음향기기 Wormhole 605 05-20
1	레이저, 세누아의 사가:헬블레이드 2의 독점 오디오 마케팅 파트너로 선정 2 음향기기 Wormhole 515 05-20
3	MSI, PPLP ATX 3.0 효율성 등급으로 파워 서플라이 인증 시작 6 파워 Wormhole 718 05-20
6	AMD, 대만 경제부로부터 4가지 조건으로 대규모 보조금 모색 중 14 업계동향 QM바나 2k 05-20
11	무료 윈도우 튜닝 ‘PC 매니저’ 새 버전…“3가지 방식으로 파일 정리 기능 강화” 18 소프트웨어 빌보 4.6k 05-20
46	시소닉, VERTEX PX-1200 한정판 청룡 에디션 출시 68 파워 QM포시포시 3.2k 05-20