AIを活用した盗作·カンニングが相次ぎ、学校が不正行為検証に「AI盗作検査機」を活用し始め、AI盗作検査を回避するAIサービスまで登場するなど混乱が大きくなっている。
2日、教育界によると、最近、多数の学校がAI盗作検査機を通じて、学生の課題や試験答案用紙のAI活用を探知し始めた。 AI盗作探知サービスを提供する企業「ムハユ」によると、昨年中·高等学校でAI盗作を検査した文書は前年対比10倍以上増加した。 ソウル大学などで学生たちのAI不正行為が相次いで摘発され、これを防止するためにAI盗作検査機を利用するのだ。
AI盗作検査機は確率に基づいて特定の文がAIによって作成されたかを判別してくれる。 与えられた文書を文章または段落単位に分けて分析した後、該当段落·文章に使われた表現や文章構造とAIが使用する作文方式間の類似度により盗作確率を計算する方式だ。
例えば論文の開始部分に「最近になってOOに対する関心が次第に増大している」という表現を発見した場合、検査機はAIが作成した確率が高くなったと見る。 続いて「これに対する体系的な検討が今後必要になると判断される」等の具体的内容の代わりに形式的語彙が相次いで提示される場合にもAIが作成した文との類似度が高いと判断される。
このように確率に基づいて盗作を判断したため、イ氏の場合のように人が作成した文までAI盗作率が高く出る副作用も現れている。 ソウル所在の国立大学コンピュータ工学科のある教授は「文章だけを見てAIが作成したかを問い詰めるのは危険だ」として「現存するAI盗作探知機の大多数は単純に表現や構造だけを見てAIが使われた確率を分析する水準だ。 副作用の事例が多いだろう」と述べた。
一方、学校側のAI盗作検査に対抗し、生徒らもAIを盗作率の管理に使い始めた。 一部の学生たちはいわゆる「ヒューマナイザー(Humanizer)」と呼ばれるAIサービスを活用してAIが作成した文を人が作成したように変え、AI盗作検査を通過している。 これらのサービスは、ユーザーが提示した文書に対するAI盗作率を検査した後、盗作率の高い一部の段落内の表現を修正することが分かった。
AI盗作率を人為的に下げる過程で、文の水準が大幅に下落するという指摘も出ている。 一部のオンラインコミュニティでは「AI盗作率を低くする方法」で△事例はただでっち上げる△普段あまり使わないかぎこちない表現に変える△呪術呼応が合わないように直すなどが広がっている。
実際に先立って例示として聞いた「最近○○に対する関心が次第に増大している」という文章をヒューマナイザーに入力すると「○○は2022年を前後に研究談論で継続して言及される」のように真偽が確認されていない内容を盛り込んだぎこちない文章に修正された。 ソウル大学社会学科在学生のイ某氏（23）は「人が見るにはぎこちない文章を書くと、むしろAI盗作率が低くなった」とし「人が直接書いた文をAI盗作率を通過するために無理に変えることが教育的に意味があるかは分からない」と話した。
[キム·ソンヒョン記者]
