見出し画像

【2 危険】 AniSora (アニソラ)の安全性調査レポート

概要

詳細分析

1. 調査対象とした主要情報源リスト:

2. 詳細分析と考察:

a. サービスの本質と独自性:

AniSoraは、中国の動画共有サービス「bilibili(ビリビリ動画)」の開発チームが制作した、画像からアニメーション動画を生成するAIツールです。1枚の静止画像を元に、自然な動きのあるアニメーション動画を生成する機能を持ち、特にアニメ表現に特化していることが特徴です。

このツールはオープンソースとして公開されており、HuggingFaceやGitHubでコードやモデルが入手可能です。その技術的特徴として、1000万を超える高品質データサンプルを用いてトレーニングされた点と、画像から動画への生成、フレーム補間、ローカル画像ガイダンスなど複数の機能をサポートしている点が挙げられます。

独自性としては、既存の動画生成AIモデル(Sora、Kling、CogVideoXなど)が自然な実写動画生成に強みを持つのに対し、AniSoraはアニメ特有の誇張された動きや物理法則に縛られない表現に特化している点があります。これは、bilibiliがアニメコンテンツに関するプラットフォームとしての専門性を活かした結果と言えます。

b. 関係者の実態と透明性:

AniSoraの開発・運営主体は、中国の大手動画共有プラットフォーム「bilibili(ビリビリ動画)」の開発チームです。bilibiliは2009年に設立された中国の企業で、日本のニコニコ動画に似たコメント機能(弾幕)を特徴とする動画共有サービスを運営しています。

運営法人は「上海寛娯数碼科技有限公司」(Shanghai Kuanyu Digital Technology Co., Ltd.)と「上海幻電信息科技有限公司」(Shanghai Hode Information Technology Co., Ltd.)です。bilibiliはアメリカのNASDAQに上場企業であり、一定の企業情報は公開されています。

一方、AniSoraの提供プラットフォームである「Komiko」の運営会社情報は、公式サイト上で明確に開示されていません。パートナー企業としてMathos AIやCollov AIの名前は掲載されていますが、Komiko自体の運営主体や所在地は不明確です。この透明性の欠如は懸念材料と言えます。

c. 関係者のバックグラウンド(国籍・拠点等):

AniSoraの開発元であるbilibiliは中国の企業であり、拠点は上海に置かれています。中国のインターネット企業として、中国政府の規制や方針の影響を受ける立場にあります。2018年の報道によれば、bilibiliは日本にも法人を持ち、東京都中央区に拠点を置いてアニメ制作事業を展開していますが、AniSoraとこの日本法人との関係は不明です。

注目すべき点として、AniSoraのGitHub上のコード公開には、主要開発者として「yangsiqian@bilibili.com」や「xubaohan@bilibili.com」というメールアドレスが記載されており、中国人開発者が主導していることが推測されます。

Komikoの運営主体についての公開情報はほとんどありませんが、サイトの日本語対応の程度から日本市場を意識していることがうかがえます。しかし、その実態や所在地は不明であり、必ずしも日本企業とは限りません。

d. ビジネスエコシステム:

AniSoraは、bilibiliが「アニメ界へのオープンソースの贈り物」として位置づけるプロジェクトであり、その技術自体はオープンソースとして公開されています。一方で、実際のサービス利用は「Komiko」プラットフォーム上で提供され、有料プランへの加入が必要となっています。

Komikoはアニメ・マンガ系のAIプラットフォームとして、様々なAIツールを提供しており、一部は無料で利用可能ですが、AniSoraを含む高度な機能は有料プランのみで利用できます。サイト上の料金体系によれば、月額制のサブスクリプションモデルを採用しています。

このビジネスモデルは「オープンソースの技術を活用しつつ、実用的なインターフェースとインフラを提供することで収益化する」という近年のAIビジネスの典型的なパターンと言えます。ただし、利用者データがどのように活用されるかという点については透明性が不足しています。

e. ハイリスク国との関連リスク:

AniSoraは中国企業「bilibili」によって開発されたAIモデルであり、中国と直接的な関連があります。中国は日本にとってハイリスク国に分類され、特にデータプライバシーとセキュリティに関して以下のような懸念があります:

  1. 中国国家情報法の影響: 中国の国家情報法(2017年)では、すべての組織・個人が国家の情報活動に協力する義務を定めています。理論上、bilibiliも中国政府から要請があれば情報提供を拒否できない立場にあります。

  2. データ収集と利用: サービス利用時にアップロードされる画像や入力されるプロンプト、生成された動画など、ユーザーデータが中国企業に収集される可能性があります。このデータがどのように保管され、誰がアクセスできるのかが不透明です。

  3. AIモデルのトレーニングデータ: AniSoraは1000万を超えるデータサンプルでトレーニングされたと公表されていますが、これらのデータの出所や著作権の取り扱いが懸念されます。GitHubやHugging Faceで公開されているサンプルには日本のアニメキャラクターが含まれており、著作権の観点からも問題がある可能性があります。

  4. 検閲と表現の自由: 中国政府のコンテンツ規制の影響を受ける可能性があります。特に政治的に敏感なコンテンツを生成しようとした場合、制限がかかる可能性があります。

これらのリスクは、サービスの安全性と信頼性に直接影響を与える可能性があります。特に中国企業が関与するAIサービスを使用する場合、ユーザーデータのプライバシーと安全性について特別な注意が必要です。

f. 準拠法と管轄裁判所:

AniSoraの公式ページやKomikoのウェブサイト上で、利用規約やプライバシーポリシーへの明確なリンクを確認することができませんでした。これは非常に大きな懸念点であり、ユーザーがサービス利用時の法的な枠組みを理解する妨げとなっています。

準拠法や管轄裁判所が明示されていないため、紛争が発生した場合の解決プロセスや適用される法律が不明です。中国企業が開発したツールであることを考えると、中国法が適用される可能性も否定できず、その場合、日本のユーザーにとって法的保護が不十分となる可能性があります。

Komikoプラットフォームについても同様に、準拠法や紛争解決の管轄裁判所に関する情報は見当たりません。この透明性の欠如は、ユーザーがサービスを利用する前に十分なリスク評価を行うことを困難にします。

g. データインフラストラクチャ:

AniSoraやKomikoが利用するサーバーインフラストラクチャーやデータセンターの所在地に関する情報は公開されていません。中国企業が開発していることを考えると、中国国内またはその影響下にあるデータセンターが使用されている可能性があります。

中国のサイバーセキュリティ法(2017年)は、「重要情報インフラ」の運用者に対して中国国内でのデータ保存を義務付けています。また、データセキュリティ法(2021年)では、「国家安全または公共利益のために」当局がデータへのアクセスを要求できるとしています。

これらの法律を考慮すると、ユーザーがアップロードした画像や生成した動画などのデータが中国政府の監視下に置かれる可能性を排除できません。特に、アニメーションの生成プロセスでは、ユーザーの趣向や関心事が推測可能になる可能性もあり、データプライバシーの観点から懸念があります。

h. 利用規約・プライバシーポリシーの精査:

調査の結果、AniSoraおよびKomikoの公式サイト上に明確な利用規約やプライバシーポリシーへのリンクは確認できませんでした。これは非常に重大な懸念事項です。ユーザーデータの収集、使用、保持、共有に関する方針が公開されていないということは、サービス提供者がこれらの情報をどのように取り扱うのかが不明確であることを意味します。

通常、AIサービスの利用規約には、アップロードされたコンテンツに対する権利関係、生成物の著作権、利用制限、禁止事項などが明記されています。また、プライバシーポリシーには、収集される個人情報の種類、その利用目的、保存期間、第三者との共有有無などが記載されるべきです。これらの情報がない状態でのサービス利用は、ユーザーの権利やデータプライバシーの面で大きなリスクをはらんでいます。

特に懸念されるのは、アップロードした画像やプロンプトがAIモデルの改良のために使用される可能性や、生成された動画の著作権がどこに帰属するのかが明確でない点です。

i. ユーザーデータの取り扱い実態:

公開されている情報からは、AniSoraがどのようにユーザーデータを取り扱うのかを具体的に把握することはできませんでした。サービス利用時には、少なくとも以下のようなデータが収集される可能性があります:

  1. アップロードされた画像データ

  2. 入力されたプロンプト(テキスト指示)

  3. 生成された動画データ

  4. ユーザーの行動データ(サービス利用パターンなど)

  5. アカウント情報(Komikoの有料プラン加入時)

これらのデータがどのように保存され、誰がアクセスでき、どのくらいの期間保持されるのかが明記されていません。また、AIモデルの改良や学習のためにこれらのデータが利用されるのかどうかも不明です。

特に中国企業が関与する場合、前述の中国のデータセキュリティ法制を考慮すると、これらのデータが政府当局によってアクセスされる可能性も排除できません。

j. 技術的・組織的データ保護措置:

AniSoraやKomikoが採用している具体的なデータ保護措置(暗号化、アクセス制御、セキュリティ監査など)に関する情報は公開されていません。また、ISO27001などの情報セキュリティマネジメントシステムの認証取得状況についても不明です。

データセキュリティに関する透明性の欠如は、ユーザーがサービスの安全性を正確に評価することを困難にします。特に、個人的なイラストや創作物をアップロードする際には、それらのコンテンツが安全に扱われるか懸念されます。

また、セキュリティインシデントが発生した場合の対応プロセスや、ユーザーへの通知方法についても情報がありません。これらの不透明さは、サービスの信頼性を低下させる要因となります。

k. 総合的な優位性と代替可能性:

AniSoraの主な優位性は、アニメーション特有の表現(誇張された動き、物理法則にとらわれない表現など)に特化したAI動画生成モデルである点です。1000万を超えるデータサンプルでトレーニングされており、画像から動画への変換、フレーム補間、ローカル画像ガイダンスなど複数の機能を備えています。

しかし、データプライバシーやセキュリティの観点からは、以下のような代替サービスが考えられます:

  1. Adobe Firefly Video Model: Adobeが提供するAI動画生成サービスで、プライバシーポリシーが明確で、データの取り扱いに関する透明性があります。

  2. Stability AIの「Stable Virtual Camera」: 2D画像から3D動画を生成できるAIツールで、プライバシーポリシーが公開されています。

  3. FramePack: Komikoが提供する別のAI動画生成ツールで、同じプラットフォーム上で利用できますが、AniSoraとは異なる技術を採用しています。

  4. 国内企業が提供するアニメーション支援ツール: 日本国内の法規制に準拠しているサービスを選択することで、データプライバシーのリスクを軽減できる可能性があります。

これらの代替サービスは、必ずしもAniSoraと同一の機能を提供するわけではありませんが、データプライバシーとセキュリティの観点からは、より安心して利用できる可能性があります。特に、明確な利用規約とプライバシーポリシーを持ち、データの保護に関する方針が透明であるサービスを選択することが推奨されます。

3. 安全性と信頼性の総合評価と判断根拠:

AniSoraの安全性と信頼性を総合的に評価すると、技術的な革新性と実用性は高いものの、データプライバシーとセキュリティに関する透明性の欠如が大きな懸念材料となります。以下の点が特に重要です:

  1. 開発元の背景: 中国企業によって開発されたAIツールであり、中国のデータセキュリティ法制の影響を受ける可能性があります。特に国家情報法の下では、企業は政府からの情報提供要請に応じる義務があります。

  2. 不透明なデータポリシー: 利用規約やプライバシーポリシーが公開されておらず、ユーザーデータの収集・利用・保存に関する方針が不明確です。

  3. 法的枠組みの不確実性: 準拠法や管轄裁判所が明示されておらず、紛争解決プロセスや適用される法律が不明です。

  4. トレーニングデータの懸念: 公開サンプルに日本のアニメキャラクターが含まれており、著作権に関する懸念があります。

  5. データインフラの不明確さ: サーバーやデータセンターの所在地が不明で、データがどこで処理・保存されるのか確認できません。

一方で、技術的には革新的なサービスであり、アニメーション制作の効率化に貢献する可能性を持っています。オープンソースとして公開されているため、技術自体の透明性は比較的高いと言えます。

総合的には、データプライバシーとセキュリティに関する懸念から、現時点ではAniSoraの利用には注意が必要と判断します。特に機密性の高い創作物や個人情報を含む画像には使用すべきではありません。

4. 潜在的なリスクと利点の詳細なブレインストーミング:

ユーザーにとっての主な利点:

  • アニメーション制作の効率化: 静止画からアニメーション動画を短時間で生成できるため、制作プロセスが大幅に効率化されます。

  • 技術的革新性: アニメ特有の表現(誇張された動き、物理法則にとらわれない表現など)に特化した動画生成が可能です。

  • クリエイティブな可能性: これまで技術的ハードルが高かったアニメーション表現を、専門知識がなくても実現できる可能性があります。

  • オープンソースの利点: モデル自体はオープンソースであり、技術的に詳しいユーザーは自分の環境でカスタマイズして利用することも可能です。

  • コスト効率: 従来のアニメーション制作と比較して、時間とコストを大幅に削減できる可能性があります。

ユーザーにとっての潜在的リスク:

  • データプライバシーの不確実性: アップロードされた画像や入力されたプロンプトがどのように取り扱われるのか不明確です。

  • 中国政府による監視の可能性: 中国の法規制により、データへの政府アクセスが行われる可能性があります。

  • 著作権・知的財産権の問題: 生成された動画の著作権帰属が不明確であり、商用利用時にトラブルが発生する可能性があります。

  • トレーニングデータの倫理的問題: モデルのトレーニングに使用されたデータセットが適切に権利処理されているかどうかが不明です。

  • プラットフォームの継続性リスク: 運営企業やプラットフォームの透明性が低く、将来的なサービス終了や方針変更のリスクがあります。

  • 制限付きコンテンツの生成リスク: 中国の検閲政策により、特定の政治的・社会的コンテンツの生成が制限される可能性があります。

主任アナリストとしての追加的洞察:

AniSoraのようなAIツールは、アニメーション制作の民主化という点で革命的な可能性を秘めています。しかし、中国企業が開発したツールであるという背景は、データセキュリティの観点から無視できない要素です。

特に注目すべきは、オープンソースモデルであるにもかかわらず、実際のサービス利用がKomikoというプラットフォームを介して行われ、そのプラットフォームの透明性が低い点です。オープンソースの精神とは、コードの透明性だけでなく、運用の透明性も含むべきであり、この点で改善の余地があります。

また、AIモデルのトレーニングデータに関する透明性も重要です。特に、アニメコンテンツは著作権の問題が複雑であり、適切な権利処理なしに学習データとして使用された場合、法的・倫理的問題を引き起こす可能性があります。公開されているサンプルには日本のアニメキャラクターが含まれているという報告があり、これは懸念材料です。

AIの発展と創作活動の支援という目標は価値あるものですが、それはデータプライバシーやセキュリティ、著作権尊重の原則と両立するべきです。現時点でのAniSoraは、この両立が十分に図られているとは言い難い状況です。

いいなと思ったら応援しよう!

平岡憲人(ノーリー)
よろしければサポートお願いします! いただいたサポートはクリエイターとしての活動費に使わせていただきます! (

ピックアップされています

生成AI安全性調査

  • 69本

コメント

ログイン または 会員登録 するとコメントできます。
【2 危険】 AniSora (アニソラ)の安全性調査レポート|平岡憲人(ノーリー)
word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word

mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1