AI手机时代杠杆证券网，用户数据在手机、大模型、云端流动，脚下埋着复杂雷区，有哪些问题需要提前勘测和规避？2月15日，21世纪经济报道、南财合规科技研究院主办学术交流会“AI手机隐私危机：新秩序中的安全挑战与抉择”，探讨AI手机时代面临的隐私挑战。
这是业内首个端侧AI治理的研讨会，基于21世纪经济报道、南财合规科技研究院此前对端侧AI长期的关注与研究。
南方财经合规科技研究院院长、21世纪经济报道总裁虞伟总结了当前AI手机存在的隐私安全问题。
虞伟指出，近几年，人工智能大模型从实验室走入千家万户。伴随着技术的发展迭代，市场不断摸索，大模型与手机、汽车、智能设备等端侧的融合被视为创新锚点。
2023年起，各个手机厂商纷纷推出自己的大模型，并不断迭代。同时最近国产AI公司又发布了Deepseek的大模型，火爆了全球，相关的手机厂商也宣布相继进入，以进一步提升手机智能水平，增强市场的竞争力。从图像处理到智能写作，从语音助手到艺术识别，AI手机正在以惊人的技术改变我们的生活方式。厂商们将AI作为刺激消费的抓手，缩短用户换季周期，而消费者也开始享受科技带来的便利与乐趣。AI手机迅速普及，标志着我们迈入了智能交互新纪元。
新的业态图景徐徐展开，秩序与规则也需逐步建立。
经过南方财经合规科技研究院的前期研究，虞伟表示，隐私保护与数据安全，是AI手机需直面的第一个问题。因为，AI手机的功能必须“吞下”大量的个人数据才能够成立，尤其是AI智能体，需要不断收集、分析和处理大量的个人数据，包括用户的位置信息、通讯记录、浏览习惯，甚至是生物特征数据。所以，隐私保护是一切商业故事的起点。
首先，虞伟提出，当前AI手机的隐私政策比较复杂。虽然这一方面体现了厂商对数据保护的重视，但另一方面却让消费者稍不留神就陷入信息迷宫，难以真正了解自己的数据被如何收集与使用。甚至还存在“挂着羊头卖狗肉”的情况，以言语来模糊实际功能调用的意图。
其次，端侧云侧数据流动风险增大。虽然厂家都宣称自己的端侧AI大模型能力，但普遍的AI功能仍依赖云侧大模型。端云协同中，就存在着很多用户与模型交互数据密切，涉及很多个人隐私。模型数据黑箱化，数据处理方多元，交互数据如何流动、是否涉及第三方？数据链路不够透明。
此外，无障碍权限可能被滥用。AI一句话响应“点外卖”“取消续费”大多依靠“识屏+模拟点击”技术路线，多是开启“无障碍权限”功能。此前在实测中，南方财经合规科技研究院发现，一些手机的隐私政策里对无障碍权限的说明不够清晰，甚至有个别厂商滥用无障碍权限。具体的测评结果将日后公布。
虞伟提到，AI手机面临悖论式发展难题。手机厂商自己打造了AI智能体，需要更贴近用户，功能与服务要更加无感，但是其拥有更接近技术系统的优势和更高的权限调用能力，如何合理利用？边界在哪里？目前还需要各方的讨论。
他认为，总的来说，与此前以App为抓手的隐私保护不同，AI手机行业生态更为复杂，涵盖手机终端、第三方大模型、APP以及云服务等参与方，各方在数据安全上的责任关系仍不明确，挑战更大。而且，在互联网时代强调的用户对个人信息的知情权与自决权，至今尚未有效落地。
然而，技术已然带来了新的明天，AI手机开启了智能终端的新篇章，也给政策制定者和行业带来诸多亟待解答的问题。
南方财经全媒体集团在国内成立了首家合规科技研究院，持续关注相关领域的内容，将深度剖析行业发展的情况和政策监管的思路，发布研究报告，提供一体化的合规监测与咨询的服务。
虞伟指出，南方财经合规科技研究院从2024年起就开始持续关注AI手机隐私危机的话题，推出了聚焦AI手机系列报道，并约稿行业专家，与读者探讨AI手机隐私保护与安全挑战、市场格局与竞争态势等热点。
春节前，南方财经合规科技研究院推出了一些最新专题报告，比如南方财经合规科技研究院推出了《回望与前瞻：2024年竞争秩序场报告》杠杆证券网，当中就将AI手机作为三大关注焦点之一。未来，南方财经合规科技研究院也将继续关注AI手机领域的发展动态，为推动行业健康发展贡献力量。