Category: 专业术语

数据中毒攻击（Data Poisoning Attack）是一种针对机器学习系统的恶意攻击方式，攻击者通过向训练数据集中注入精心设计的污染数据，意图在模型训练过程中引入偏差或错误，从而在模型部署后导致其性能下降、产生错误预测或在特定条件下失效。这种攻击利用了模型对训练数据的依赖性，旨在破坏系统的可靠性、公平性或安全性。 在AI产品开发的实际落地中，数据中毒攻击构成重大威胁，可能影响产品在真实场景中的稳定性和可信度。AI产品经理应优先关注数据治理策略，包括实施严格的数据来源验证、自动化异常检测机制，以及采用鲁棒训练技术如对抗训练或数据增强来增强模型抵抗力。同时，在产品生命周期中引入持续监控和模型审计，能及时发现潜在攻击，确保AI系统在部署后保持高鲁棒性和用户信任。 延伸阅读推荐：论文「Poisoning Attacks against Support Vector Machines」by Battista Biggio et al. (ICML 2012) 深入探讨了技术细节；书籍《Adversarial Machine Learning》by Anthony D. Joseph […]

对抗性扰动（Adversarial Perturbation）是指在输入数据上添加的细微、人眼难以察觉的变化，这些变化能够误导机器学习模型产生错误的预测输出。这种扰动通常针对图像、语音或文本等数据形式，其核心在于揭示模型决策边界的脆弱性，即模型在训练数据分布之外的表现缺乏鲁棒性，是人工智能安全领域的重要研究课题。 在AI产品开发的实际落地中，对抗性扰动的认识至关重要，尤其是在安全敏感场景如自动驾驶、人脸识别或金融风控系统。开发者需通过防御策略如对抗训练（Adversarial Training）或输入净化来增强模型的鲁棒性，确保产品在真实世界部署时能够抵抗恶意攻击，从而提升可靠性和用户体验。随着AI技术的普及，这一领域的发展正推动更健壮的模型设计和测试框架。 对于希望深入了解的读者，推荐延伸阅读 Szegedy et al. (2014) 的论文「Intriguing properties of neural networks」（arXiv:1312.6199），该研究是这一领域的奠基性工作。

碳足迹（Carbon Footprint）是指个人、组织、产品或活动在其生命周期内直接和间接产生的温室气体排放总量，通常以二氧化碳当量（CO2e）表示，用于量化其对全球气候变化的贡献。这一概念源于环境科学，强调人类行为对碳循环的扰动，是评估生态影响和制定减排策略的核心指标，帮助推动可持续发展。 在AI产品开发中，碳足迹直接关系到模型训练和部署的能源消耗，尤其是大型神经网络如Transformer架构的训练过程耗电巨大，产生显著碳排放。AI产品经理需优先考虑优化算法效率、采用绿色数据中心（如使用可再生能源）、设计低功耗模型架构，以降低碳足迹并实现环保目标，这不仅响应全球气候政策，还提升产品长期竞争力和企业社会责任。

大语言模型的效率评估是指对大型语言模型在训练和推理过程中的资源消耗、响应速度及计算效率进行系统性量化和分析的过程。这包括评估关键指标如延迟（响应时间）、吞吐量（单位时间处理量）、内存占用、能源消耗以及浮点运算次数（FLOPs）等，旨在确保模型在实际应用中既能高效执行任务，又能优化成本效益，同时维持所需的性能水平。 在AI产品开发的实际落地中，效率评估扮演着核心角色，因为它直接关系到产品的用户体验和运营可持续性。AI产品经理需依据评估结果指导模型选择（如轻量级模型与大型模型的权衡）、部署优化（如采用量化压缩或知识蒸馏技术降低资源需求），以及硬件资源配置，从而在聊天机器人、内容生成系统等场景中实现低延迟、高吞吐的服务，提升用户满意度并控制服务器成本。

交互式提示工程（Interactive Prompt Engineering）是一种在人工智能领域中的技术方法，特别针对大型语言模型（如GPT系列），它通过用户与模型的实时对话和迭代反馈来动态优化提示（prompts），从而提升模型输出的准确性、相关性和效率。其核心在于将提示设计过程转化为一个互动循环：用户输入初始提示后，模型生成响应，用户基于反馈调整提示内容，再输入新提示，如此反复直至达到理想结果。这种方法突破了传统静态提示的局限性，强调实时调整和上下文适应，使得模型能更好地理解复杂意图并生成高质量响应。 在AI产品开发的实际落地中，交互式提示工程对构建用户导向型应用至关重要，例如智能客服系统、内容生成工具或个性化推荐引擎。产品经理通过设计直观的交互界面（如多轮对话流程），让用户参与提示优化过程，这不仅提升了用户体验的流畅度和满意度，还增强了模型的泛化能力和实用性；同时，它降低了模型部署的调试成本，加速了产品迭代，是推动AI解决方案从实验室走向市场的关键实践。

人类反馈的提示是指在人工智能交互中，通过收集和分析人类用户对系统响应的直接反馈（如评价、评分或修正），来优化提示（prompt）设计与实施的过程。提示作为用户输入指令，用于引导AI生成输出；人类反馈则提供响应质量的评估，使系统能自适应调整提示，提升准确性、相关性和用户体验，从而减少误解和错误输出。 在AI产品开发的实际落地中，人类反馈的提示技术广泛应用于聊天机器人、内容生成工具等场景，通过迭代收集用户反馈数据，产品团队能快速精炼提示，无需重新训练模型，即可增强系统性能和用户满意度。这一方法显著加速了产品迭代，降低了开发成本，并帮助AI更贴合多样化需求，是提升产品竞争力的关键策略。