자연이 이미지와 비디오에서 생성 AI의 사용을 허용하지 않는 이유

Sep 05, 2023

귀하는 귀하의 교육기관을 통해 이 기사에 대한 전체 접근 권한을 갖습니다.

Nature는 생성 AI를 사용하여 전체 또는 부분적으로 생성된 이미지를 게시하지 않습니다. 크레딧: Artem Medvediev/Alamy

자연은 생성 인공 지능(AI)을 이미지와 비디오 제작에 사용하도록 허용해야 합니까? 본 저널은 ChatGPT, Midjourney와 같은 생성 AI 도구를 사용하여 생성된 콘텐츠가 폭발적으로 증가하고 이러한 플랫폼의 기능이 급속히 증가함에 따라 이 질문에 대해 몇 달 동안 논의, 토론 및 컨설팅을 진행해 왔습니다.

AI에 관한 기사를 제외하고 Nature는 적어도 가까운 미래에 생성 AI를 사용하여 전체 또는 부분적으로 제작된 사진, 비디오 또는 일러스트레이션이 포함된 콘텐츠를 게시하지 않을 것입니다.

우리가 의뢰하고 함께 작업하는 예술가, 영화 제작자, 일러스트레이터 및 사진 작가는 제출한 작품 중 생성 AI를 사용하여 생성되거나 증강된 작품이 없는지 확인하라는 요청을 받습니다(go.nature.com/3c5vrtm 참조).

ChatGPT와 같은 도구는 투명한 과학을 위협합니다. 사용에 대한 기본 규칙은 다음과 같습니다.

시각적 콘텐츠에 생성 AI 사용을 금지하는 이유는 무엇입니까? 결국은 성실성의 문제이다. 과학과 예술 모두에 관한 한 출판 과정은 정직성에 대한 공동의 약속에 의해 뒷받침됩니다. 여기에는 투명성이 포함됩니다. 연구자, 편집자, 출판사로서 우리 모두는 데이터와 이미지의 출처를 알아야 이러한 정보가 정확하고 사실인지 확인할 수 있습니다. 기존 생성 AI 도구는 이러한 검증이 이루어질 수 있도록 소스에 대한 액세스를 제공하지 않습니다.

그 다음에는 귀속이 있습니다. 기존 저작물이 사용되거나 인용되면 귀속이 표시되어야 합니다. 이는 과학과 예술의 핵심 원리이며, 생성 AI 도구는 이러한 기대에 부합하지 않습니다.

동의와 허가도 요소입니다. 예를 들어 사람이 식별되거나 예술가 및 일러스트레이터의 지적 재산이 관련된 경우 이러한 정보를 얻어야 합니다. 다시 말하지만, 생성 AI의 일반적인 응용 프로그램은 이러한 테스트에 실패합니다.

생성 AI 시스템은 소스를 식별하기 위한 노력이 전혀 이루어지지 않은 이미지에 대해 훈련되고 있습니다. 저작권으로 보호되는 저작물은 적절한 허가 없이 생성 AI를 훈련하는 데 일상적으로 사용되고 있습니다. 어떤 경우에는 개인 정보 보호도 침해됩니다. 예를 들어 생성 AI 시스템이 동의 없이 사람들의 사진이나 비디오처럼 보이는 것을 만드는 경우가 있습니다. 개인 정보 보호에 대한 우려 외에도 이러한 '딥페이크'를 쉽게 만들 수 있다는 점은 허위 정보의 확산을 가속화하고 있습니다.

현재 Nature에서는 적절한 주의 사항을 준수하는 경우 생성 AI의 도움으로 생성된 텍스트를 포함할 수 있도록 허용하고 있습니다(go.nature.com/3cbrjbb 참조). 이러한 LLM(대형 언어 모델) 도구의 사용은 논문의 방법 또는 감사의 글 섹션에 문서화되어야 하며, 저자는 AI의 도움으로 생성된 데이터를 포함하여 모든 데이터에 대한 소스를 제공할 것으로 기대합니다. 또한 어떤 LLM 도구도 연구 논문의 저자로 인정되지 않습니다.

세계는 AI 혁명의 위기에 처해 있습니다. 이 혁명은 큰 가능성을 가지고 있지만 AI, 특히 생성적 AI는 과학, 예술, 출판 등 분야에서 오랫동안 확립된 관습을 급속히 뒤집고 있습니다. 이러한 관습은 어떤 경우에는 개발하는 데 수세기가 걸렸지만 그 결과 과학의 무결성을 보호하고 콘텐츠 제작자를 악용으로부터 보호하는 시스템이 탄생했습니다. AI를 주의 깊게 다루지 않으면 이러한 모든 이점이 사라질 위험이 있습니다.

많은 국가 규제 및 법률 시스템은 여전히 ​​생성 AI의 부상에 대한 대응을 공식화하고 있습니다. 그들이 따라잡을 때까지, 연구 및 창작 작품의 출판사로서 Nature의 입장은 생성 AI를 사용하여 생성된 시각적 콘텐츠를 포함하는 것에 대해 단순한 '아니오' 입장을 유지할 것입니다.

자연618, 214(2023)

도이: https://doi.org/10.1038/d41586-023-01546-4

ChatGPT와 같은 도구는 투명한 과학을 위협합니다. 사용에 대한 기본 규칙은 다음과 같습니다.