ニューヨーク・タイムズによると、Googleはファミリーリンクのペアレンタルコントロールを利用している保護者に対し、メールで、お子様が監視対象のAndroidデバイスでGemini AIアプリにまもなくアクセスできるようになると通知しました。
同社によると、お子様はGeminiを使って宿題のサポートを受けたり、物語を読み聞かせてもらったりできるようになります。Workplace for Educationアカウントと同様に、お子様のデータはAIの学習には使用されないとのことです。しかし、メールの中でGoogleは保護者に対し、「Geminiは間違いを犯す可能性があります」と警告し、「お子様が保護者が見せたくないコンテンツに遭遇する可能性があります」と警告しました。
ピザのトッピングとして接着剤を勧めたり、イチゴの「r」の数を数え間違えたりするといった些細な間違いに加え、一部のAIボットにはより深刻な問題があります。Character.aiの若いユーザーの中には、ボットが実際の人間と話しているとユーザーに伝えたため、チャットボットと現実の区別がつかなかったという人がいました。同社は、ボットが不適切なコンテンツを提供したとして訴訟が起こされたことを受け、新たな制限とペアレンタルコントロールを導入しました。
Geminiの場合、Googleはメールで保護者にアドバイスを送り、AIは人間ではないこと、そしてチャットボットと機密情報を共有しないことを保護者が子供に説明すべきだと伝えました。
13歳未満の子供は、Googleファミリーリンクを通じてGeminiを自分で有効化して利用できるようになります。ファミリーリンクは、保護者が子供のデバイスの使用状況を監視し、制限を設定し、有害コンテンツから子供を守ることができるように設計されています。Googleの広報担当者であるカール・ライアン氏は、The Vergeへのメールで、保護者はファミリーリンクを通じてアクセスをオフにできること、そして「子供がGeminiに初めてアクセスした際に追加の通知を受け取る」ことを認めました。