本报记者（zhě） 赵姗

微软的创始人比（bǐ）尔（ěr）·盖（gài）茨有一句名言：“我们总是高估在一年或者两年中能够做到的，而低估五年或十年中能够做到的。”这句话（huà）用来理解（jiě）人工智能的影响是相当合（hé）适（shì）的。目前（qián），随着人工智能产业（yè）飞速发展，催生了新的人机交互模（mó）式，核心便是AI大模（mó）型驱动的智能体（AI Agent）（以下（xià）简称“AI助手”）。AI助手让“人机协（xié）同（tóng）”成为新常态（tài），个（gè）人（rén）与企业正（zhèng）在步入AI助手时代。

然而，伴随着（zhe）快速发展（zhǎn），一系列问题与挑战（zhàn）也随（suí）之而（ér）来。如何在应对AI助（zhù）手面临挑战的同时（shí）抓住发展机遇，实现AI助手的可持续（xù）发展和更广泛应用，成为行业需要深入思考（kǎo）和（hé）探讨的（de）重点。

数据隐私安全、伦（lún）理和法律等（děng）成为挑战（zhàn）

“AI助手（shǒu）在快速（sù）发展的同时，也面临许（xǔ）多挑战（zhàn）和问题。”国务院发展研究中心（xīn）创新发展研究部第二研究室主任杨超在接受中国经济时报记者采访（fǎng）时表示，在这些（xiē）问题中，最为关键的还在于AI助手使用所带来的数据隐私安全（quán）、伦（lún）理和法律问（wèn）题。

杨超认为，从数据隐私保护来看，由（yóu）于人工智能系统本身需要依赖大量用户数（shù）据进行训练，必然会导致相（xiàng）关（guān）机构将AI助（zhù）手（shǒu）服（fú）务期间获取和（hé）产生的数据用（yòng）于（yú）AI助（zhù）手本身的优（yōu）化，即使通过删除个性化属性等（děng）方式对数据脱敏，数（shù）据（jù）隐私和安全问题也难（nán）以（yǐ）完全避（bì）免。尤其是随着AI助手的（de）普及，其训（xùn）练涉及的数据量将快速提升，从而进（jìn）一步放大安全风（fēng）险（xiǎn）。

从伦理和法律角度看，随着AI助手能力的增强，其自主（zhǔ）性和决策能力必然会显著提升，在部分应用场景中将会脱离人类的直接指令而（ér）开展自（zì）主行为（wéi）。这些自主行为（wéi）一旦产生外部性影响，就将引（yǐn）发伦理和法（fǎ）律问题。“一个（gè）经（jīng）典的例（lì）子是，人工智能自（zì）动驾驶的汽车（chē）在行（háng）驶过程中，前方突（tū）然出现（xiàn）行人，改变行驶（shǐ）方向（xiàng）会伤害乘客，不改变方（fāng）向则会（huì）伤害（hài）行人。这种情况下无论AI助手做（zuò）出何（hé）种选择都会（huì）带来伦理问题。”杨超说。

清（qīng）华大学复杂工程系（xì）统实验室主（zhǔ）任、中国人工智能（néng）学会智能产（chǎn）品与（yǔ）产业（yè）工作委员会（huì）主任任勇在（zài）接受中国经济时报记者采访时表示，在当下（xià）阶段，AI助手（shǒu）仍然面临（lín）技术创新与场景适配度的（de）挑战。

一（yī）是（shì）算法的精准（zhǔn）性与可靠性。AI助手的核（hé）心——算法需要不断学习和（hé）优化以提（tí）高准确性（xìng）和可靠性，然而，面对复（fù）杂多变的用户需求和场景，当前的（de）算法往往难以达到（dào）期待（dài）的要求。

二是跨模态学习与环境理解（jiě）能力。AI助手当（dāng）前的技术水（shuǐ）平仍存在一定（dìng）的局限性，难以充分理解和整合（hé）应（yīng）用时空变化的模态信息，对环（huán）境信（xìn）息的（de）多模态感知与理解尚有（yǒu）很大的提升（shēng）空间。

三是场景理（lǐ）解（jiě）与适应能力。有些场景化（huà）需求超越了简（jiǎn）单的物理环境感（gǎn）知，需要与（yǔ）场景自身的底（dǐ）层逻辑、应（yīng）用逻辑相（xiàng）结合才能理解，这对当下的AI助手而言是一个现实挑（tiāo）战。

“此外，AI技术的复杂性和变化性使得已有（yǒu）法规难以完全覆盖各（gè）种变动。当AI助手出现（xiàn）错（cuò）误或造成损（sǔn）害时（shí），责任（rèn）追究便（biàn）成了难（nán）题。”任勇说（shuō）。

“AI助手（shǒu）面临的挑战还有算法偏（piān）见与歧（qí）视、过度依（yī）赖和成瘾。”清华大学人工（gōng）智能国际治理研究（jiū）院秘书长、欧美同学会研究院（yuàn）人工智能和数字经济（jì）研（yán）究中心执（zhí）行（háng）主任鲁俊群在接受中国经济时（shí）报记者采访时表示。

鲁俊群（qún）认为，目前，AI算法（fǎ）的训练数据还存在不完备性（xìng）和偏向性。由于AI训练所使用的语料数据本身可能客观上就存在着统计学上的一（yī）定偏差，还有可能存（cún）在开（kāi）发（fā）者的个（gè）人偏（piān）好等，因此，现阶段的各种AI助（zhù）手仍有（yǒu）可能存（cún）在一定的（de）算法（fǎ）偏见与歧视问题。对此，有必要建立（lì）对技术（shù）背后训练数据和算法的审查机（jī）制（zhì），如通过建立（lì）AI伦理委（wěi）员会等形（xíng）式加强审核。

另外，“假如一名用户经常与（yǔ）AI角色互动（dòng）来寻求帮助和安慰（wèi），容易对其产生情感上的依赖，以此来（lái）填（tián）补情感需求上的空缺，这有可能导致用户沉迷虚拟（nǐ）世界而忽视现实世界。对此，建议对于AI助手（shǒu）应该使用（yòng）得当，同时（shí）应该注意（yì）保持与现实世界的互动（dòng）。”鲁俊群说。

未来发展方向：垂（chuí）直领域专业化、与具（jù）身智能的结合

当前，大模型进入应用时（shí）代，多家科（kē）技公司（sī）都展出了最新AI应用。

“AI助（zhù）手发展的方（fāng）向是多样的，在技术路线和应用场景的双重（chóng）影响下，将会迎来种类繁多（duō）的AI助手。”杨超认为，其中（zhōng），有两个方向（xiàng）是较（jiào）为（wéi）确定的。

一是垂直领域专（zhuān）业化。在特定行业（yè）或领域，如家（jiā）政（zhèng）、健康、医疗（liáo）、法律、金融等大领域，甚至（zhì）是（shì）制（zhì）造业中不同行业等小领域，AI助手都将具备更深入的专业知识和技能，提供专业服务。

二（èr）是与具身智能的结合。随着（zhe）人工智能能力的提升，其提供（gòng）的服务将不仅（jǐn）是咨询和智力（lì）服务，而是（shì）通过（guò）更多的感知和操作，为（wéi）人类提供直接（jiē）与物质（zhì）世界交互的能（néng）力。

任勇认为，就发（fā）展方（fāng）向（xiàng）而言，AI助手在产业场景和个（gè）体场（chǎng）景中的应（yīng）用虽（suī）然都基于人工智（zhì）能技术，但在（zài）技术路径和响应机理上存在着显著差异（yì）。

AI助手产（chǎn）业（yè）场景的技术路径主要是针对特定需求，如制造（zào）业（yè）、物（wù）流、医疗、教（jiāo）育等，AI助手（shǒu）通常需要进行（háng）定制化（huà）开发，以符合行业的特定需求。利用（yòng）相应产业所产生的（de）数（shù）据，结合（hé）各种机器学（xué）习（xí）算法，AI助手能够自主学（xué）习和优（yōu）化，实现智（zhì）能排班、任务分（fèn）配、数（shù）据分（fèn）析、流程优化等高级功能。在此过程中，AI助手往往需要与企业的其他系统（tǒng）进行集成，如ERP（企业资源计划）、CRM（客（kè）户关系（xì）管理）等，以实现信息的共（gòng）享和协作。通过上述技术路径实现对重（chóng）复（fù）性烦琐任（rèn）务的自（zì）主处理和数据（jù）洞察、科（kē）学（xué）决策、降本增效（xiào）。

AI助手用（yòng）于个体场（chǎng）景的技术路径主要是利用通用智能平（píng）台（tái），如智能（néng）手（shǒu）机、智（zhì）能家居设（shè）备（bèi）等，通过（guò）语音识（shí）别和自然（rán）语言交（jiāo）互、多设备协同（tóng）来辅助用户完成（chéng）任务，提升（shēng）日常（cháng）生活的便（biàn）利（lì）性和服务的精准（zhǔn）性。

“在产业场景中，AI助手主要（yào）关注（zhù）于提升效（xiào）率、优化决策和降（jiàng）低（dī）成本，需要更多的定制化开发（fā）和集成协作（zuò）；而在个人生活场景中（zhōng），AI助手则更注重于提（tí）供便捷化、个性化、适应性服务，未来的技术创新只能（néng）围绕不同场（chǎng）景下各自的内生逻辑（jí）进行迭（dié）代优化（huà）。”任勇说。

鲁俊群认为，AI助（zhù）手未来（lái）可（kě）能（néng）会向多模态交（jiāo）互以及具身智能（néng）方（fāng）向发（fā）展（zhǎn）。

“为了实现具身智能，需要将类ChatGPT等这些基（jī）础大模型与（yǔ）进化学习（xí）机（jī）制相结（jié）合（hé），通（tōng）过与物理世界交（jiāo）互取得的新数据（而不再是人（rén）类投喂的数据（jù））来不断学习，并适应新环境，优化行为策略。多模态大模（mó）型能够（gòu）整合视觉、听觉（jiào）、触觉等多种感官数据，提升机（jī）器人的理（lǐ）解能力。使具身智能机器（qì）人在与物理世界的互（hù）动和（hé）理解（jiě）方面更（gèng）加人性化。这些未来的AI助手机器人可以自主（zhǔ）理解场景、识别自然（rán）语言指（zhǐ）令、规划任务，并执行（háng）操作，将是人类最得力的智能助（zhù）理。”鲁俊群说。

从创新方向（xiàng）引导（dǎo）、应用场景规范方面为AI助手提供支持保障

当前，AI助手的（de）服务升级与互联互通是（shì）国内多家互联网科技（jì）公司持续探索的重点。

杨超建议，第一，加（jiā）强对用户隐私和数据安全的保（bǎo）护。强制性（xìng）地将用户隐私和数据安全（quán）作（zuò）为提供AI助手服务的前置条（tiáo）件，引导（dǎo）和鼓励相关（guān）机构采用先（xiān）进的数据加（jiā）密和匿名化技术，确保用户数（shù）据的安（ān）全和隐私。

第（dì）二（èr），增强AI助手决策过（guò）程的可解释性，让（ràng）用户能够理解其行为和决策（cè）逻辑，从（cóng）而（ér）提高用户信任度。为整个社会更好接（jiē）纳AI助手创造（zào）良（liáng）好的环境，从而为在更广阔的应用场（chǎng）景中使用AI助手（shǒu）提（tí）供帮助。

第三（sān），加强伦（lún）理（lǐ）和法规遵（zūn）从。根（gēn）据人工智能技术的进步及时修订相（xiàng）关（guān）法律法规（guī），完善对AI助手进行规制的制度环境，确保（bǎo）AI助手的（de）开发和应用符合伦理标准（zhǔn）和法律法规，避免产生歧视（shì）、偏见等问题。

“国家政策层面应该从创新方（fāng）向引导和应用场景规（guī）范两个方面出发（fā），为AI助手的发展提供支（zhī）持（chí）和（hé）保障。包括（kuò）明（míng）确AI助手的适用场景（jǐng）和（hé）范围等，避免误用，更要（yào）避免（miǎn）国际资（zī）本集团（tuán）假借（jiè）技术触发虚假市场（chǎng）的滥用。特别是在医疗、教育（yù）、交通等关键（jiàn）领域，应严格规范AI助手的应用条件和程（chéng）序。此外（wài），要建立健全AI助手的监管机（jī）制，加强（qiáng）社会力量（liàng）尤其是人（rén）民群众对AI助手应用的监督和评（píng）估，确（què）保其合规性、合理性（xìng）和安（ān）全性。对于违规行为，应依法进（jìn）行处罚和（hé）追（zhuī）责。”任勇表示。

未来，企业（yè）可以利用AI助手（shǒu）优化现有业务流程，特别是在（zài）新产品研（yán）发和服务的（de）创新应（yīng）用方面，AI助手的普（pǔ）及将推（tuī）动不同行业之间的（de）跨界融合和协同（tóng）发展，为企业（yè）带（dài）来新的（de）商（shāng）业机（jī）会（huì）和（hé）合（hé）作伙伴，进而带动商业模式（shì）和生态的变（biàn）革。

中央（yāng）财经大学数字（zì）经济融合（hé）创新发展中心（xīn）主任陈端（duān）在（zài）接受（shòu）中国经济时报记者采访时（shí）认（rèn）为，企业运用AI助手强化核（hé）心竞争力需要一系列的战略规划和技术实（shí）施（shī）。

一（yī）是（shì）要（yào）识别关键业务（wù）场景，深入了解业务（wù）需求，确定AI助手在哪些环节能够发挥最（zuì）大价值，然后（hòu）为选定的业（yè）务场景明确具体（tǐ）的（de）需求和（hé）目标，如提高客户满意度、优化库（kù）存管理、增（zēng）强市（shì）场分析能力（lì）等。

二是根据业（yè）务需求和技术成熟度（dù），选择适合的AI技术和解决方案，要充（chōng）分考虑与现有（yǒu）系统（tǒng）的兼容性，确保AI助手能够顺利集成到企业的IT架构（gòu）中。此（cǐ）外，还要建立完善的数据治理体系，避（bì）免因为（wéi）数据偏差导致的（de）结果偏差。

三是需要设立明（míng）确的评估指标和机制，对AI助（zhù）手的性能和效果进（jìn）行定期评估，及（jí）时调整（zhěng）和优（yōu）化AI助手的算法和模型，以提升其准确性和（hé）效率。此外，还需要（yào）关注AI助手（shǒu）可（kě）能带来的伦理和社会问题（tí），确（què）保其应用符合道德和法律规范。