AI, 가짜 연구를 양산하는 '제지 공장'과의 싸움 강화

Jan 28, 2024

PubMed Google Scholar에서도 이 저자를 검색할 수 있습니다.

귀하는 귀하의 교육기관을 통해 이 기사에 대한 전체 접근 권한을 갖습니다.

사실적인 이미지와 텍스트를 생성할 수 있는 인공 지능 도구로 인해 가짜 연구를 탐지하기가 어려워졌습니다. 제공: Westend61/Alamy

인공 지능(AI)의 발전으로 인해 가짜 과학 논문을 주문하여 생산하는 회사인 제지 공장의 문제를 해결하려는 출판사의 노력이 복잡해지고 있습니다. ChatGPT와 같은 챗봇과 이미지 생성 소프트웨어를 포함한 생성적 AI 도구는 특히 감지하기 어려울 수 있는 제지 공장 콘텐츠를 생산하는 새로운 방법을 제공합니다. 이는 제지 공장 문제에 초점을 맞춘 5월 24일 정상 회담에서 연구 무결성 전문가들이 논의한 과제 중 하나였습니다.

가짜 과학을 근절하기 위해 테스트에 투입된 제지 공장 탐지기

뉴사우스웨일스 보건병리학과 호주 시드니대학교의 분자생물학자이자 출판 무결성 연구원인 제니퍼 번(Jennifer Byrne)은 "점점 더 그럴듯한 원시 데이터를 생성하는 제지 공장의 역량은 AI와 함께 급증할 것"이라고 말했습니다.

독일 하이델베르그에 있는 출판사 FEBS Press의 이미지 데이터 무결성 분석가인 Jana Christopher는 "AI가 방금 생성한 가짜 현미경 이미지를 본 적이 있습니다."라고 말합니다. 그러나 이미지가 AI로 생성되었다는 의심을 넘어 증명할 수 있다는 것은 여전히 ​​어려운 일이라고 그녀는 말합니다.

ChatGPT와 같은 언어 생성 AI 도구도 비슷한 문제를 제기합니다. Christopher는 "ChatGPT에서 생성된 항목을 보여줄 수 있는 항목이 있으면 이를 뒤섞을 수 있는 다른 도구가 있을 것입니다."라고 말합니다.

베를린 자유대학교의 사회과학자이자 독립적인 연구 무결성 분석가인 Anna Abalkina는 동료 검토 과정의 기간으로 인해 이러한 AI 도구가 학술 문헌에서 더욱 명확해지는 데 지연이 있을 수 있다고 의심합니다. 아마도 앞으로 몇 달 안에 "우리는 첫 번째 논문 흐름을 보게 될 것"이라고 그녀는 말합니다.

번(Byrne), 크리스토퍼(Christopher), 아발키나(Abalkina)는 지난주 영국 이스트레이(Eastleigh)에 본사를 둔 학술 출판 윤리에 초점을 맞춘 비영리 조직인 출판 윤리 위원회(COPE)와 국제 과학 협회(International Association of Scientific Association)가 소집한 UNITED2ACT 정상 회담에 참석했습니다. , 옥스퍼드에 본사를 둔 기술 및 의료 출판사(STM). 이 정상회담에는 독립적인 연구 무결성 분석가와 자금 지원 기관 및 출판사의 대표를 포함한 국제 연구자들이 한 자리에 모였습니다.

가짜 과학을 양산하는 가짜 종이 공장과의 싸움

COPE 이사이자 연구 무결성 컨설턴트인 Deborah Kahn은 "이 문제를 해결하기 위해 여러 사람들이 함께 모여 일련의 조치를 공동으로 수립한 것은 이번이 처음이었습니다"라고 말합니다. , 런던에 본사를 두고 있습니다. 그룹은 곧 공동 행동 계획을 발표할 계획이다.

STM의 자회사인 STM Solutions의 프로그램 디렉터인 Joris van Rossum은 제지 작업물을 감지할 때 "합성 이미지, 합성 텍스트 등으로 인해 발생하는 추가적인 문제가 절대적으로 존재합니다"라고 말합니다. "검진이 점점 더 어려워질 가능성이 있다는 것이 일반적으로 인식되고 있습니다"라고 그는 말합니다.

Kahn은 연구자들의 논문 작성을 지원하기 위해 AI를 긍정적으로 사용하는 것은 의심할 여지가 없지만 AI로 작성된 합법적인 논문과 완전히 조작된 논문을 구별하는 것은 여전히 ​​필요하다고 말했습니다. "우리는 그러한 것들을 어떻게 식별하는지, 그리고 사람들이 실제로 연구를 수행했는지 확인하는 방법을 실제로 살펴봐야 합니다. 그리고 우리가 그렇게 할 수 있는 방법은 다양합니다."라고 그녀는 말합니다.

정상회담에서 논의된 한 가지 전략은 저자에게 실험에서 얻은 원시 데이터를 제공하도록 요구하는 것이었고, 잠재적으로 게시자가 해당 데이터가 진짜인지 확인할 수 있는 디지털 워터마크를 포함하는 것이었습니다.