이러한 종류의 시각적 콘텐츠에 ‘아니오’라고 말하는 것은 연구 무결성, 동의, 개인 정보 보호 및 지적 재산권 보호의 문제입니다.
Nature will not publish imagery created wholly or partly using generative AI.Credit: Artem Medvediev/Alamy
네이처는 생성적 인공 지능(AI)이 이미지와 비디오 제작에 사용되도록 허용해야 합니까? 이 저널은 ChatGPT 및 Midjourney와 같은 생성 AI 도구를 사용하여 생성된 콘텐츠가 폭발적으로 증가하고 이러한 플랫폼의 기능이 급격히 증가한 후 몇 달 동안 이 질문에 대해 논의, 토론 및 컨설팅을 해왔습니다.
특히 AI에 관한 기사를 제외하고 Nature는 적어도 가까운 미래에 생성 AI를 전체적으로 또는 부분적으로 사용하여 사진, 비디오 또는 일러스트레이션을 만든 콘텐츠를 게시하지 않을 것입니다.
우리가 의뢰하고 함께 작업하는 예술가, 영화 제작자, 일러스트레이터 및 사진가는 그들이 제출하는 작업이 생성 AI를 사용하여 생성되거나 증강되지 않았는지 확인하라는 요청을 받습니다(go.nature.com/3c5vrtm 참조 ).
시각적 콘텐츠에서 생성 AI의 사용을 허용하지 않는 이유는 무엇입니까? 결국 정체성의 문제다. 과학과 예술에 관한 한 출판 과정은 무결성에 대한 공동의 약속에 의해 뒷받침됩니다. 여기에는 투명성이 포함됩니다. 연구자, 편집자 및 발행인으로서 우리 모두는 데이터와 이미지의 출처를 알아야 정확하고 사실임을 확인할 수 있습니다. 기존 생성 AI 도구는 이러한 검증이 발생할 수 있도록 소스에 대한 액세스를 제공하지 않습니다.
그런 다음 귀속이 있습니다. 기존 작업을 사용하거나 인용할 때 귀속해야 합니다. 이것은 과학과 예술의 핵심 원칙이며 생성 AI 도구는 이러한 기대에 부합하지 않습니다.
동의와 허가도 요인입니다. 예를 들어 사람이 식별되거나 예술가 및 삽화가의 지적 재산이 관련된 경우 이러한 정보를 얻어야 합니다. 다시 말하지만, 생성 AI의 일반적인 응용 프로그램은 이러한 테스트에 실패합니다.
생성 AI 시스템은 소스를 식별하기 위해 노력하지 않은 이미지에 대해 훈련되고 있습니다. 저작권으로 보호되는 저작물은 적절한 허가 없이 생성 AI를 훈련하는 데 일상적으로 사용되고 있습니다. 예를 들어 생성 AI 시스템이 동의 없이 사람들의 사진이나 비디오처럼 보이는 것을 생성하는 경우와 같이 어떤 경우에는 프라이버시도 침해되고 있습니다. 개인 정보 보호 문제 외에도 이러한 ‘딥페이크’를 쉽게 만들 수 있기 때문에 허위 정보의 확산이 가속화되고 있습니다.
적절한 경고
현재 Nature는 생성 AI의 도움 으로 생성된 텍스트를 포함할 수 있도록 허용하고 있습니다. 이러한 대규모 언어 모델(LLM) 도구의 사용은 논문의 방법 또는 감사의 글 섹션에 문서화되어야 하며 저자는 AI의 도움으로 생성된 데이터를 포함하여 모든 데이터에 대한 소스를 제공해야 합니다. 또한 LLM 도구는 연구 논문의 저자로 인정되지 않습니다.
세계는 AI 혁명의 위기에 처해 있습니다. 이 혁명은 큰 가능성을 가지고 있지만 AI, 특히 생성 AI는 과학, 예술, 출판 등에서 오랫동안 확립된 관습을 빠르게 뒤집고 있습니다. 이러한 관습은 경우에 따라 발전하는 데 수세기가 걸렸지만, 그 결과 과학의 무결성을 보호하고 콘텐츠 제작자를 착취로부터 보호하는 시스템이 탄생했습니다. 우리가 AI를 다루는 데 주의를 기울이지 않으면 이러한 모든 이득이 풀릴 위험이 있습니다.
많은 국가 규제 및 법률 시스템은 여전히 생성적 AI의 부상에 대한 대응책을 공식화하고 있습니다. 그들이 따라잡을 때까지 연구 및 창작물의 출판사로서 Nature의 입장은 제너레이티브 AI를 사용하여 만든 시각적 콘텐츠를 포함하는 것에 대해 단순한 ‘아니오’로 남을 것입니다.
Why Nature will not allow the use of generative AI in images and video
Saying ‘no’ to this kind of visual content is a question of research integrity, consent, privacy and intellectual-property protection.
Nature 618, 214 (2023)
doi: https://doi.org/10.1038/d41586-023-01546-4