科学出版におけるAI論文作成ツールの倫理的な影響

人工知能（AI）は、科学研究の進め方や共有の仕方に影響を与えており、従来は人間の知能を必要としていた作業を機械が行えるようにしています。しかし、あらゆる新技術と同様に、これらのツールを使う際には倫理面で考慮すべき点があります。

AIは、複雑なデータセットを解析し、人が手作業で情報を確認する場合には見つけにくいパターンを特定することに優れています。機械学習アルゴリズムを導入することで、AIソフトウェアはこうしたデータから学習し、そのパターンに基づいて予測を行うよう訓練できます。

一方、自然言語処理ソフトウェアを使えば、研究者は大量の論文にすばやく目を通して新しいテーマを理解できます。また、文章や視覚的なコンテンツの生成とレビューの両方に対応するツールもあります。

こうした革新的な技術を探求するなかで、科学出版の公正性を維持するために、それらをどのように、いつ使うべきかも考えなければなりません。倫理を守り、科学研究への信頼を築き続けるには、コミュニティが透明性、説明責任、信頼性を示し続ける必要があります。

誤情報の防止

AIチャットボットのChatGPTは、2022年の公開から2か月でユーザー数1億人に達しました[1]。その機能を試すなかで、詩を書いたり助言を求めたりして楽しむ人もいれば、有益な知見を得たりコンテンツを生成したりするために使う人もいました。たとえば科学コミュニティでは、研究論文の一部を生成する補助としてこのツールを使い、事実上AI論文作成ツールとして利用する人もいます。たとえば科学コミュニティでは、研究論文の一部を生成する補助としてこのツールを使う人もいます。

ChatGPT、AI論文作成ツール、科学出版の倫理

AIは革新的である一方、システムの性能は学習に使われたデータの質を超えられないという限界があります[2]。データに含まれる偏りや不正確さは、生成されるコンテンツにも表れます。たとえば、Men’s Health誌[3]に掲載された初のAI生成記事は、学術的に見える引用が付いていたにもかかわらず、多くの不正確な情報や虚偽を含んでいたとして調査の対象となりました。これを受けて、Natureをはじめとする多くの出版社は編集方針を改め、科学論文の原稿のコンテンツ生成にChatGPTなどの大規模言語モデル（LLM）を使うことへの制限を明記し、出版倫理に関する懸念を強調しました。

悪用の防止と出版倫理

AIの性能と透明性には限界があるため、人間がこの技術だけに頼ることはできません。研究者、編集者、出版社には、事実を検証し、出版倫理の遵守を確保する責任があります。

捏造されたコンテンツを作成する組織であるペーパーミル（論文工場）の出現は、AIの悪用のよくある例です。流通しているペーパーミル論文の正確な割合はわかっていませんが、これが検出の難しい現象であり、科学出版物の信頼性を損なうものであるとして、出版社の間では大きな懸念が広がっています。

しかし、ペーパーミルに関連する画像の改変の疑いがないか科学論文を確認する作業は、1本の論文に数百点のサブ画像が含まれることもあるため、時間がかかるうえに必ずしも正確とは限りません。

AIはこのプロセスを自動化し、悪用の事例や意図しない重複を出版前に検出できます。たとえば画像の信頼性をチェックするソフトウェアは、コンピュータービジョンとAIを用いて原稿をスキャンし、数分で画像を比較して、潜在的な問題を指摘します。その後、フォレンジック担当の編集者がツールを使ってさらに調査し、切り貼り、削除、その他の形の改変の事例を見つけることができます。

まとめ：科学出版におけるAI論文作成ツールの倫理的な考慮事項

AIには多くの機能があり、今後も改良が続くでしょう。しかし、この技術がおのずと倫理的にふるまうことを当てにすることはできません。科学コミュニティでAIとその応用への理解が深まるにつれて、研究公正の専門家は協力して、コンテンツ生成におけるAI利用、特にAI論文作成ツールを使う人々による利用について、明確なガイドラインと基準を確立すべきです。とはいえ、こうした取り組みをもってしても、ペーパーミルはなくならないでしょう。そのため出版社は、出版前の原稿確認のために、その時点で利用できる最適な技術的ソリューションへの投資と導入を続けるべきです。もちろん、これに加えて、ペーパーミルの横行を防ぐための新たな手法を開発する幅広い取り組みも必要です。

ヒント

AIツールの利用を検討する際は、ツールを役立てながら研究公正を保つための使い方について、編集者、出版社、倫理審査委員会のガイドラインを確認しましょう。出版社も、Proofig AIなどのAIツールが、ペーパーミルによって作成されたコンテンツをより効果的に検出するうえでどのように役立つかを検討すべきです。