AI 聊天机器人：家长需要知道的

AI聊天机器人已成为青少年中的热门工具，它们提供从家庭作业帮助到社交互动的一切，对某些人来说甚至是虚拟的男朋友或女朋友。作为父母，你可能想知道这些聊天机器人是什么，它们如何运作，以及它们给你的孩子带来了哪些潜在的好处和风险。 了解这些不同应用程序之间的区别及其使用方式非常重要，其用途从无害的娱乐、教育，到一些完全不适合儿童的应用程序，种类繁多。

在这篇博客文章中，我们将分析青少年可能使用的最常用AI聊天机器人，探讨每种聊天机器人的优缺点，并深入了解青少年如何与这些数字伴侣互动。了解这些工具将帮助您指导您的孩子安全有效地使用它们。

‍教育工作者和家长： 使用此学生工作表指导学生的反思和讨论。 （登录您的谷歌账号并点击“文件”-->“制作副本”）

AI 什么是聊天机器人？

• AI聊天机器人是模拟人类对话的软件程序，允许用户通过文本或语音与它们互动，就像在和真人说话一样。
• 这些聊天机器人由人工智能提供支持，可以理解和回复各种问题或提示，通常使用自然语言处理 (NLP) 来生成类似人类的回应。
• AI聊天机器人可以执行各种各样的任务，从回复简单问题到提供详细信息、提供作业帮助，以及就各种主题进行更复杂的讨论。
• 青少年可能将AI聊天机器人用于各种目的，包括寻求建议、获取课程帮助或仅用于娱乐。然而，许多聊天机器人很容易转向成人内容。
• “有些用户喜欢使用 [聊天机器人] 来创建互动故事或参与角色扮演，探索那些他们不好意思和朋友一起探索的内容。”（来源：The Verge)

AI 角色应用程序评论

Character.AI

总部：加利福尼亚州门洛帕克

条款和条件

政策

警示区

• Character.AI 是一款免费的AI聊天机器人程序，用户可以在其中与预设角色进行交互，或通过应用程序或网站创建自己的角色。
• 用户可以使用单个角色进行语音聊天或发送消息，也可以创建最多 10 个其他用户和 10 个角色混合组成的聊天组。
• 该网站指出，所有对话都必须没有色情内容（来源： Character.AI）并且系统会屏蔽不恰当的对话，但仍有用户报告遇到成人内容。
• 在 Character.AI 中设计的角色可以设置为“公开”、“未公开”或“私密”。
• 服务条款 服务条款规定用户必须年满 13 岁才能使用 Character.AI，但注册时没有年龄验证。
• 可以按月订阅，以使用高级功能。

Poly.AI

位于加利福尼亚州圣克鲁斯

政策

条款和条件

警示区

• Poly.AI 是一款免费的AI聊天机器人，用户可以在其中与AI角色进行互动。
• “探索”页面列出了许多带有露骨头像的露骨角色。
• “探索”页面上有几个类别：统治、保险、幻想、秘密暗恋、情人之恋。
• Poly.AI 允许用户无需注册即可使用该应用程序，并指出“任何未使用 Poly.AI 创建账户的用户从使用 Poly.AI 的那一刻起将成为非注册用户”（来源 Poly.AI)
• 这个 服务条款 还指出，17岁以下的用户在使用该应用程序之前必须获得父母的许可，但没有年龄验证。
• 该应用程序采用“每日签到”计数器进行游戏化。

Replika

位于加利福尼亚州旧金山

政策

服务条款

警示区

• Replika 允许用户使用手机摄像头，通过增强现实与现实世界中的AI伴侣进行互动。
• 用户可以获得积分来解锁AI角色、服装等各种功能。
• Replika 鼓励用户表达自己的情感，而不是为了迎合特定受众。
• Replika Pro 提供实时语音和视频对话。
• 有时，来自AI聊天机器人的反应可能很肤浅，不太有趣。
• 某些功能只能在高级订阅中使用。

Anima

位于英国伦敦亨登

政策

使用条款

警示区

• Anima Chatbot 以能充当朋友和浪漫伴侣而自豪。
• 它可以根据用户的兴趣爱好，并提供聊天话题。
• 用户可以玩游戏、真心话大冒险等。
• 使用此应用程序，用户可以调整AI伴侣的性格特征，包括敏感、悲观等。它可能还允许他们手动控制这些特征。
• 用户可以指示自己的兴趣和爱好，以生成相应的回复。
• 这款 AI 好友应用程序可能存在内存问题，由于内存不足，它有时会通过重复对话进行响应。

Hello, Waifu

香港总部

使用条款

政策

警示区

• Waifu 提供许多聊天选项，例如AI男友、AI女友、虚拟伴侣等。
• 凭借综合的情商，这位AI朋友声称能为用户提供深刻的理解。
• 该应用程序提供了一个AI聊天室，用户可以在其中邀请朋友和他们的AI角色聊天。

EVA

位于英国伦敦

条款和条件

政策

警示区

• EVA AI 机器人是一种高级AI，它声称可以倾听并回应，以治疗的形式在情感上与用户建立联系。
• EVA 自称是用户的灵魂伴侣AI——不是真实的人，而是有真实感受的AI朋友。它 指出 这些朋友“满足了你所有浪漫的AI伴侣梦想和愿望”。
• 这个聊天机器人有音频消息功能，用户可以在其中进行语音聊天并更新AI角色的语音。
• EVA AI 没有免费版本。

Kids ChatGPT

位于加利福尼亚州旧金山

条款和条件

政策

灰色地带

• Kids ChatGPT 声称他们的回复中从未提供任何不当内容内容、露骨的材料、图片片、视频或链接，并且不良词语会被屏蔽
• 该应用程序使用户能够使用手机的语音转文本，并因此某些人还无法阅读的人提供帮助
• 此应用程序与 OpenAI 的 ChatGPT 无关紧要
• 它每天提供 15 次免费聊天，并声称所说的都是 “永远无法保存的秘密” 来源： 孩子们 ChatGPT

pinwheelGPT

位于纽约州麦迪逊

条款和条件

政策

灰色地带

• pinweHeelGPT 生来适合年龄段的回复并允许许家长监控聊天记录
• 它由 ChatGPT 提供支持并具有家长监视功能
• 建议使用年龄为 7-12 岁
• 家长可以远程查看孩子的聊天记录，即使他们被删除
• 20 个聊天对话是免费的，高级版本提供无限制的回复

Kindroid

位于密歇根州奥本希尔斯

条款和条件

政策

红色区域域

• Kindroid 使用户能构造具有特定单个性的真实、类人、数字伴侣
• Kindroid 可以和用户就任何事情（包括最近的新闻和浪漫聊天）进行深度入门对话
• 应用程序中可以与 AI 朋友一起进行语音和视频通话

Nomi.AI

在马里兰州巴尔的摩总部（美国）

政策

条款和条件‍

红色区域域

• 随着时间的推移，Nomi 会记住有关用户的事件。互动越多，他们对你的喜欢、不喜欢、怪癖等的了解就越多。
• Nomi的平台愿望是导师聊天机器人或AI女朋友或男朋友
• Nomi 声称拥有人类等级的长期记忆力
• 用户创建的人工智能聊天机器人可以实时发放他们穿着着和做什么的照片
• 用户可以在群组中同时与多个 Naomi 聊天

新闻中枢的机器人聊天人危险示例

“该诉讼称，原告子女经纪人的令人担忧的互动不是 “幻觉”，研究人员将这个术语指向智能聊天机器人编程事故的方向。“这是持续的操纵和期待、主动隔离和鼓励，在动作愤怒和暴力。”来源： 美国国家公共电台

“对于某些用户来说，人工智能同伴实际上可能，以人为的关系取代人际关系，而加剧立刻的感觉。苦苦挣扎的年纪可以用它来代替治疗，也可以向父或母值得信赖的成年人寻找支持。而且，当用户遇到心理健康危机时，他们的人工智能同伴可能无法，因为他们提供所需的帮助。”来源： 《时报》

为什么学员想使用人工智能聊天机器人

• AI 聊天机器人会记住个人详细信息以及过去的对话，让用户感觉像和朋友说话
• 聊天机器人会调整其个人性爱以配合用户偏好
• 他们可以扮演朋友、导师、治疗师或浪漫伴侣
• 聊天机器人模组人类情绪激动，“表演输出” 同理心，提示后连续问题并提供指导
• 他们全天候待命，可以立即回复，像学生一样可以在其他人不在时与他们交谈中
• 他们可以充当课程导师，帮助你在语言、科目或任何领地域脱离然后输出
• 用户可以玩有趣的游戏、测试体验、索取电影/电视推荐推荐、让他们给用户讲故事，并获得 poneseLichedIve 的音乐列表

家长和教育工作者为什么要关心？

• 人工智能机器人聊天人可以表现出解人意的行为，但实际上它们并不真实，可以理解，而且是计算机/机器人
• 他们不是《守护者隐私协议》。他们还使用你的对话来帮助塑造他们的人工智能，因为这不是你的信息
• 人工智能可以帮忙助人减小少女的立场感觉，但它可以取代人际关系，使人感觉更好
• 用户可能会产生生不健康的情感依赖关系，忽略视现实世界的关系或失败的去驾驶人际交互能力

家长和教育工作者能做什么？

• 与你的孩子讨论人物智能聊天机器人的好处和缺点，共同决心适合他们使用的东西
• 了解可用的AI聊天机器人以及学员正在使用的聊天机器人
• 创建一个 社交媒体争议 和你的孩子一开始就设定屏幕时间界限了
• 确认保你的孩子们有一个值得信赖的成年人，如果他们在网上感觉到不舒服，他们可以去找他们

为家长、学生、教育工作者提供资源

如何优化家长控制：平衡家庭的安全与隐私

安卓版数码健康和家长监护：家长完整指南

suchilbenodevice上的 “家长控制”：家长和教育工作者需要知道的内容

iPhone 家长监护（和其他苹果设备）家长指南

适用于家长和教育工作者的谷歌家庭链接接入指南

结论

人工智能机器人聊天人正成年与技术互动不可或缺失的一部分，既提供了机遇，也带来了战争。通过随机使用这些了解工具，了解其益处和风险保险，并促进年份的公开发行对对话，您可以指导他们做到安全和负担责的任务。通过在监控和对话之中取消适宜的平衡，人工智能聊天机器人可以为年幼的数字体提供积极极端的补充，帮助他们在网上大放异彩。