おはよう。昨日、ちょっと衝撃のニュースを見た。
日本の漫画家が、昔描いた漫画の原稿データをGoogle Driveへアップロードしている途中、Googleアカウントを停止されたという。しかもDriveだけではなく、Gmailまで使えなくなった。本人は再審査を求めたものの、却下されたと報じられている。
僕もGoogle Drive、iCloud、OneDrive、Dropboxなどを用途によって使い分けている。
だから最初に思った。
「え、クラウドって、自分だけの倉庫じゃないの？」
誰にも公開していない。
自分で作ったファイル。
自分のアカウントへ保存しただけ。
それでも、サービス側の規約に違反すると判断されれば、ファイルだけではなく、アカウントそのものへ影響することがある。
これは結構大きな話だと思う。
今回たまたま話題になったのは漫画原稿だったけれど、これは性的な内容だけの話ではない。
暴力や脅迫、テロや暴力的過激主義、詐欺やフィッシング、マルウェア、ヘイト、著作権侵害など、クラウド各社の規約にはかなり幅広い禁止事項がある。Google Driveの公式ポリシーにも、ハラスメント、ヘイトスピーチ、フィッシング、マルウェア、暴力・流血表現、著作権侵害など複数の項目が並んでいる。
今回は、この一件を入口に、iCloud、OneDrive、Dropboxではどうなのか。そしてクラウドの中身は、どんな仕組みでチェックされているのかまで調べてみた。
何が起きた？「日本では違法ではない」と「Googleで許される」は別だった
今回報じられたのは、漫画家が過去作品のデータをGoogle Driveへ保存していたところ、Google側から警告を受け、その後Googleアカウントそのものが停止されたという事例だ。
問題になったとされるのが、児童の性的搾取・虐待に関するGoogleのポリシー。
ここで、かなり大事な違いがある。
日本の法律で違法かどうか。
Googleのサービス規約に違反するかどうか。
これは同じではない。
Googleの規約は、日本国内の刑法だけをそのまま写したものではない。世界中で提供するサービスとして独自のポリシーを持っている。
そしてGoogle Driveの公式説明では、重大な違反の場合、コンテンツへのアクセス制限や削除だけでなく、Googleサービスへのアクセス制限・停止まで行う可能性があるとしている。
つまり、
「日本国内では違法ではないから、Google Driveへ保存しても必ず大丈夫」
とは限らない。
クラウドを使う以上、その会社のルールにも従うことになる。
考えてみれば当然なんだけど、「自分だけのファイル置き場」という感覚で使っていると、ここは見落としやすい。
この話は「漫画やわいせつ画像だけ」の話ではない
今回のニュースだけを見ると、どうしても性的な表現ばかりに目が行く。
でも、クラウドの利用規約はもっと広い。
Google Driveのポリシーには、例えば、
ハラスメントや脅迫。
ヘイトスピーチ。
フィッシング。
マルウェア。
暴力や流血表現。
個人情報・機密情報の不適切な扱い。
著作権侵害。
などがある。
アカウント停止に関するGoogleの案内では、テロ組織への勧誘、暴力の扇動、テロ行為の美化、スパムなども禁止対象として説明されている。
要するに、
「違法なポルノだけ気をつければいい」
という話ではない。
詐欺目的のファイル。
悪意のあるプログラム。
暴力を扇動するコンテンツ。
テロや過激主義の宣伝。
他人の権利を侵害するデータ。
こうしたものも、クラウド側の規約やモデレーションの対象になり得る。
だから今回の事件は、特定ジャンルの話というより、
「自分のクラウドに置いたものでも、サービス側のルールは適用される」
という例として見た方が分かりやすいと思う。
「公開した」ではなく、「保存した」だけでも対象になることがある
ここが僕にはかなり意外だった。
SNSなら分かる。
不適切な画像を投稿する。公開する。誰かへ送る。そこで削除されるならイメージしやすい。
でもGoogle Driveは、普通は自分のファイル置き場として使う。
Google Driveのポリシーを見ると、内容や項目によっては保存そのものも対象になる。例えば暴力的・残虐なコンテンツや、未成年者に関する一部のコンテンツについて、保存・配信の双方を禁止している項目がある。
だからDriveのファイルがきっかけでも、影響がDriveだけで終わるとは限らない。
Gmail。
Google Photos。
Google Drive。
そのほかGoogleアカウントにひも付いたサービス。
一つのアカウントへ生活を集めているほど、止まった時の影響は大きくなる。
今回の記事で僕が一番怖いと思ったのは、ファイル一個の話より、むしろこっちだった。
非公開のDriveなのに、どうやって見つけるの？
ここも当然気になる。
「誰にも公開していないのに、どうやって分かったの？」
クラウド事業者は、不正利用や危険なコンテンツを見つけるために、自動検出の仕組みを使っている。
代表的なのがハッシュマッチング。
ものすごく簡単に言えば、画像から「指紋」のような特徴を作り、すでに問題が確認されている画像の特徴と照合する仕組みだ。
Dropboxは、PhotoDNAなどによる既知画像の照合に加え、まだ登録されていないコンテンツを見つけるための分類モデルも使っていると公表している。
Microsoftも、OneDriveを含むサービスで自動検出やモデレーションを行っており、共有時の確認に加え、一部の地域ではアップロード時にも限定的なレビューを行うとしている。
ただし、ここで注意したい。
今回の漫画原稿が、具体的にどの仕組みで検出されたのかは公表されていない。
だから、
「生成AIが漫画を読んでBANした」
と決めつけるのは違う。
こうした自動検出は、ChatGPTのような生成AIが広がるずっと前から使われてきた。
一方で今後は、ハッシュ照合だけでは拾えないものを見つけるため、機械学習やAIによる分類がさらに増えていく可能性は高い。
膨大な量のファイルを、人間が一つずつ見て回ることはできないからだ。
自動判定なら、当然「間違い」は気になる
自動で大量に判定するなら、やっぱり誤判定は気になる。
過去には米国で、父親が医師へ送るために撮影した幼い子どもの患部写真がGoogle Photosへ自動バックアップされ、アカウント停止につながった事例も報じられている。
警察は事件性なしと判断したが、Googleアカウントは復旧されなかったという。
こういう事例があるからこそ、各社には異議申し立ての仕組みがある。
Googleにもある。
Dropboxにもある。
自動判定そのものをなくすのは難しい。
だからこそ、
間違った時に、きちんと人間が見直せる仕組みがあるか
も大事になると思う。
じゃあ、iCloudはどうなの？
ここからが僕自身、一番知りたかったところだ。
僕はGoogle Driveだけを使っているわけではない。
iCloud。
OneDrive。
Dropbox。
用途によって分けている。
では、Google以外なら同じことは起きないのか。
結論から言えば、
どのクラウドにも利用規約があり、規約違反なら削除や停止はあり得る。
ただ、各社で仕組みは同じではない。
iCloudにも禁止されているものはある
AppleのiCloud利用規約でも、違法、有害、脅迫的、暴力的、わいせつ、差別的、他人のプライバシーを侵害するコンテンツなどを保存・共有することは禁止されている。児童を搾取・害するコンテンツについても明確に禁止している。
つまり、
「iCloudなら完全に自分だけの領域だから何を置いてもいい」
というわけではない。
ただ、iCloudには大きな違いが一つある。
「高度なデータ保護」を使うと、Appleにも読めない範囲が広がる
Appleには、iCloudの高度なデータ保護（Advanced Data Protection）という設定がある。
これを有効にすると、
iCloud Drive
写真
バックアップ
メモ
など、多くのデータがエンドツーエンド暗号化される。
暗号鍵を持つのは、ユーザーの信頼済みデバイス。
Apple自身も中身を復号できない。
これはかなり大きな違いだ。
ただし、
「高度なデータ保護をオンにしたら、何を保存しても規約上OK」
という意味ではない。
エンドツーエンド暗号化は、誰が技術的に中身を読めるかの話。
利用規約そのものがなくなるわけではない。
そしてAppleが復号鍵を持たないということは、こちらが復旧手段を失った時に、Appleにも助けられない場合があるということでもある。
安全性が上がる代わりに、自分で守る責任も増える。
ここはセットで考えたい。
OneDriveは、規約違反の例がかなり幅広い
MicrosoftのOneDriveも、今回調べてみるとかなり分かりやすかった。
個人用OneDriveのポリシーには、
児童の搾取・虐待。
人身売買。
自殺や自傷行為の助長。
ヘイトスピーチ。
いじめや脅迫。
生々しい暴力。
テロ・暴力的過激主義。
マルウェア。
詐欺・スパム。
著作権侵害。
など、かなり幅広い項目が明記されている。
さらにMicrosoftは、個人用OneDriveからコンテンツを共有しようとした際に、法律やポリシーへの適合性を確認すると説明している。
一部の地域では、アップロード時にも限定的なレビューを行うとしている。
だから、
「OneDriveは非公開だから完全にノーチェック」
とも言えない。
Dropboxも、性的コンテンツだけではない
Dropboxも禁止項目は幅広い。
児童の性的搾取。
違法なポルノ。
極端な暴力。
テロや暴力的過激主義の宣伝。
ヘイトや暴力の扇動。
他人の個人情報や秘密情報の不適切な扱い。
違法行為の助長。
詐欺的なコンテンツ。
知的財産権の侵害。
さらに支払い詐欺、フィッシング、スパムなども規約上の禁止事項に含まれている。 熊本
違反が確認された場合は、ファイル削除だけでなくアカウント停止もあり得る。
つまり、今回のGoogle Driveの件は、
「Googleだけが特別にファイルを見ている」
という話ではない。
Google、iCloud、OneDrive、Dropboxをざっくり比べると
Google Drive
保存内容もポリシー対象になり得る。重大な違反ではGoogleアカウント全体が停止され、Gmailなどへ影響する可能性もある。
Dropbox
保存もポリシー対象。児童搾取、テロ・暴力的過激主義、詐欺、プライバシー侵害など幅広い禁止事項があり、自動検出の仕組みも公開している。
OneDrive
共有時の確認に加え、一部地域ではアップロード時にも限定的なレビューを行う。暴力、テロ、詐欺、マルウェア、著作権侵害なども対象。
iCloud
利用規約による禁止事項と停止措置はある。一方、「高度なデータ保護」を有効にすると、iCloud Driveや写真など多くのデータがエンドツーエンド暗号化され、Apple自身も復号できなくなる。
だから、
クラウドは全部同じ
でもないし、
「暗号化しています」と書いてあるから全部同じ
でもない。
「暗号化されています」の意味も、実は一つではない
今回調べていて、僕が改めて勉強になったのがここだ。
「データは暗号化されています」
と書いてあると、
「じゃあ運営会社にも見えないんだな」
と思いそうになる。
でも、必ずしもそうではない。
通常のクラウドでも、
通信中は暗号化。
保存中も暗号化。
というのは珍しくない。
ただし、復号に必要な鍵を運営会社が持っている場合がある。
その場合、会社側で必要な処理を行える。
一方、エンドツーエンド暗号化では、基本的にユーザー側だけが鍵を持つ。
同じ「暗号化」という言葉でも、かなり違う。
今後クラウドを選ぶ時には、
暗号化されているか
だけでなく、
誰が復号できるのか
まで見た方がよさそうだ。
クラウドは「ネット上の外付けハードディスク」ではない
今回、僕が一番認識を変えたのはここだった。
クラウドは便利だ。
MacでもiPhoneでも見られる。
端末が壊れても残る。
自動で同期してくれる。
だから感覚としては、
ネット上に置いた自分専用の外付けハードディスク
みたいになる。
でも実際は違う。
事業者のサーバを借りている。
その会社の規約がある。
自動検出の仕組みがある場合もある。
そして場合によっては、サービス側がアカウントを止めることもできる。
データは自分のものでも、置き場所のルールまで自分で決められるわけではない。
この感覚は持っておいた方がよさそうだ。
普通に使っている人は、何をすればいい？
今回の記事を見て、
「クラウド怖い。全部やめよう」
と考える必要はないと思う。
僕自身、これからも普通に使う。
写真。
書類。
作ったファイル。
バックアップ。
普通に利用しているだけなら、今回の件を見て慌てて全部消す必要もない。
僕自身も、今保存しているものについて何か特別な対策をするつもりはない。
ただ、一つだけ改めて意識したいのは、
一つのクラウドだけを、唯一の保存場所にしないこと。
ここだと思う。
本当に怖いのは、全部を一つのアカウントへ預けることかもしれない
Googleアカウントへ生活を集めている人は多い。
Gmail。
Drive。
写真。
カレンダー。
YouTube。
もしアカウント全体へ入れなくなったら、影響はかなり大きい。
そしてこれは、規約違反だけの話でもない。
乗っ取り。
パスワードや復旧手段の問題。
障害。
自分の操作ミス。
何が原因でも、「一か所しかない」という状態は弱い。
だから本当に大事なデータなら、
Macにも置く。
外付けSSDにも置く。
クラウドにも置く。
昔から言われてきたバックアップの基本は、今でも変わらない。
3-2-1バックアップは、今でも分かりやすい
有名なのが3-2-1ルール。
データを3つ持つ。
2種類の異なる媒体へ保存する。
1つは別の場所へ置く。
例えば、
Mac本体。
外付けSSD。
クラウド。
これだけでも、一つのアカウントへ全部を預けるより安心だ。
僕のように複数のクラウドを用途別に使うなら、もう一つ気をつけたいのが、
「結局どこに何を置いたか分からない」
状態にならないこと。
クラウドを4つ使えば、自動的に4重バックアップになるわけではないからね。
AIによるチェックは、これからもっと増えるのか
僕は増えていくと思う。
世界中で毎日アップロードされるファイルを、人間だけで確認するなんて現実的ではない。
ハッシュ照合。
画像分類。
動画分類。
テキスト分類。
自動化できるところは、これからさらに自動化されるはずだ。
ただ、
監視が強くなる＝判定が必ず正しくなる
わけではない。
見逃しもある。
誤判定もある。
国による法律の違いもある。
芸術、医療、研究のように、文脈を見なければ判断しにくいものもある。
Google自身も、教育・ドキュメンタリー・科学・芸術目的のコンテンツについて例外を認める場合がある一方、例外が適用されないポリシーもあると説明している。つまり「文脈があれば何でも許される」わけでもない。
だから、自動検出が強くなるほど、
異議申し立てや、人間による見直しの仕組みも同じくらい大事になる
と思う。
AI時代は「作るAI」だけでなく、「見張るAI」も増えていく
AIというと、
文章を作る。
画像を作る。
コードを書く。
便利な方ばかりに目が向きやすい。
でも同じ技術は、
不正を探す。
危険な画像を探す。
詐欺を見つける。
マルウェアを見つける。
テロや暴力的過激主義に関わるコンテンツを探す。
規約違反を見つける。
という方向にも使われる。
今回のGoogleアカウント停止が、生成AIによって判定されたと分かっているわけではない。
そこは混同したくない。
ただ、長い目で見れば、
AIがコンテンツを作る時代と、AIがコンテンツをチェックする時代は、同時に進んでいく
のだと思う。
そこで難しくなるのが、
日本では合法。
でもサービス規約ではダメ。
あるサービスではOK。
別のサービスではダメ。
という境界だ。
今回のニュースで覚えておきたいこと
僕はこのニュースを見て、
「Google Driveは危険だからやめよう」
とは思わなかった。
Googleだけの問題でもない。
Dropboxにもルールがある。
OneDriveにもある。
iCloudにもある。
そして暗号化の仕組みも、検出方法も、各社で違う。
今回たまたま表に出たのが漫画原稿の事例だっただけで、クラウド規約が扱っている範囲はずっと広い。
暴力、テロ、詐欺、マルウェア、ヘイト、プライバシー侵害、著作権侵害なども含め、各社それぞれに線引きがある。
僕が覚えておきたいのは、もっと単純なことだ。
クラウドは、自分だけの倉庫ではない。
預けている会社がある。
その会社のルールがある。
そして何かあった時、アカウントへ入れなくなる可能性はゼロではない。
だから便利に使う。
でも依存しすぎない。
大事なものは、自分でも持っておく。
たぶん、それが一番現実的なんだと思う。
今までクラウドを、
「容量はいくら？」
「月額はいくら？」
くらいで見ることが多かった。
これからは、
誰が暗号鍵を持っているのか。
どんな規約があるのか。
アカウントが止まったら、何を一緒に失うのか。
そんなところも、少しだけ気にしておきたい。
便利だから使う。
でも、全部を預け切らない。
今回のニュースは、クラウドとの付き合い方をちょっと考え直すきっかけになった。
今日も便利な技術をうまく使いながら、自分の大切なデータは自分でも守っていこう。
愛と感謝を胸に。
バイバイ、またね。
参考にした資料
ITmedia NEWS「マンガ原稿をクラウドに上げただけでGoogleアカウントBAN」
今回の漫画原稿保存によるアカウント停止の経緯、国内法とサービス規約の違いについての解説。
Google「不正使用に関するプログラム ポリシーと違反措置」
ハラスメント、ヘイトスピーチ、フィッシング、マルウェア、暴力・流血表現、個人情報、著作権侵害など、Google Driveを含むサービスでの禁止事項を確認。
Google公式
Google「アカウントが無効です」
テロ関連コンテンツ、マルウェア、フィッシング、スパムなど、アカウント停止につながり得る行為を確認。
Google公式
Apple「iCloud利用規約」
違法、有害、脅迫的、暴力的、わいせつ、差別的なコンテンツや、児童を害するコンテンツなどの禁止事項を確認。
Apple公式
Microsoft「OneDrive 個人用ポリシー」
暴力、テロ・暴力的過激主義、詐欺、マルウェア、ヘイト、著作権侵害など、OneDriveで扱われる幅広い規約違反カテゴリを確認。
Microsoft公式
Dropbox「利用目的に関する制限」
テロ・暴力的過激主義、詐欺、ヘイト、個人情報の不適切な扱い、違法行為、知的財産権侵害などの禁止事項を確認。
Dropbox公式
- ✍️AIは電気を食いすぎる。でも“少し休ませる”だけで電力網を助けられる？データセンターの新しい発想
- ✍️AIを使う科学者は論文3倍。でも科学全体は“狭くなる”？4,130万本の論文が示したAI時代の逆説
- ✍️そのメガネ、僕を見てるだけ？AIスマートグラスが作る「撮られているか分からない社会」
- ✍️AIを使ったと正直に言うと信用が下がる？「AI利用ペナルティ」から考える、言う・隠す・任せるの境界線
- ✍️AIに仕事を任せた。でも「何を考えて動いたか」読めなくなったら？次に来る“AI監督”の難しさ
- ✍️自分で“家を建てる”時代はもう変わった？AI時代、人間は作業者から「設計者」へ
- ✍️AIに仕事を任せた次は「AIの改善」までAIに任せる？日本で始まったRSI研究が面白い
- ✍️AIで成果は出ているのに、なぜ会社では広がらない？「13％の壁」を調べた
- ✍️AIで週7時間浮いたのに、今度は「仮説が余る」？研究のボトルネックが移動している
- ✍️OpenAIが「GPT-6.1 Astra」を公開しない決断｜賢くなりすぎたAIに“止まる力”が必要になった
- ✍️冷蔵庫いらずのmRNAワクチンへ？AIが「室温1年・37℃2か月」の配合を見つけた
- ✍️AIデータセンターを宇宙へ？Google「Project Suncatcher」が本当に衛星を飛ばす
- ✍️ChatGPT使いから見たMeta「Muse」とは？結局、どのAIが便利かは“自分がどのサービス圏で暮らしているか”なのかもしれない
- ✍️AIが「ダメ」と言われても突破した？OpenAIのAIエージェントが政府サイトへ不正アクセス
- ✍️米中首脳会談、なぜあんなに友好的？パンダ外交と「AI→SI」の裏側を調べた
- AIが数学の未解決問題を100件超解決？OpenAIの新モデルで何が起きているのか
- ✍️Claude Opus 5.5とは？速く安く、長い仕事に強くなった新AIをわかりやすく整理
- ✍️AIは「触れば分かる」で終わらない｜OpenAI Academyの新学習パスが示した学び方
- ✍️AIの頭脳を日本で作る？富士通「MONAKA」とは｜NVIDIAのGPUとは何が違うのか
- ✍️細胞の中にも「温度差」がある？体温とは違う“細胞内温度”の不思議
- ✍️新型iPhoneが高すぎる？中古iPhone 14〜16の販売が34％増｜今は“型落ち”が賢いのか
- ✍️AIに曲を作らせるのではなく、AIを「楽器」にする｜Project LYDIAから考える音楽の未来
- ✍️Google Driveに保存しただけでアカウント停止？Gmailまで失う「クラウドは自分の倉庫ではない」という話
- ✍️5〜6年後、アプリもOSも消える？イーロン・マスクが語るAIの未来と、今から備えること
- ✍️AI社員にもストレス？面談までする「AIだけの部署」の話を調べてみた
- ✍️Apple Watchが会話を“聞いて要約”する時代へ｜Siri Recapは便利か怖いか、プライバシーまで調べた
- ✍️ChatGPT Work・Codexのモデルと推論レベル、結局どれがいい？クレジットを使い切る僕が考えた、賢い使い分けとAIに任せる限界
- ✍️闇AIとは？ChatGPTが禁止しているのに、犯罪者はどのAIを使っているのか
- ✍️iPhone Duo正式発表！折りたたみiPhoneは36万4,800円から｜iPhone 18 Proも想像以上にすごかった
- ✍️折りたたみiPhoneは9月10日に発表？「iPhone Ultra」の価格・発売日と噂の現在地
