AI大模型数据资产保护方案
场景介绍
多元化产业集团（简称A公司）业务涵盖六大核心板块，板块之下细分为二十多个业务单元，A公司因此积累了大量的跨行业数据。随着大语言模型在2023年成为全球的科技研究热点，A公司经过分析，认为构建一个私有的大模型将是推动业务创新与发展的重要举措。
A公司经过对算力资源、通用数据可用性以及时间规划等因素的综合权衡，最终决定在从零开始构建大模型和基于预训练大模型进行微调这两个构建路径中选择后者。基于预训练大模型进行微调能够利用预训练模型已经学习到的丰富特征和知识表示，加快模型在新任务上的收敛速度，并期望达到更好的性能表现。
基于预训练模型进行微调来构建私有大模型的步骤包括以下几个关键阶段，A公司根据自身情况做出评估：
预训练模型选择
选择一个与目标任务和数据集相匹配的预训练模型，考虑模型的性能、计算资源需求以及开源或商业授权等因素
数据收集和准备
收集与任务相关的数据集,并对数据进行清洗、预处理、标注，划分训练集、验证集和测试集，以便后续使用
模型微调
使用特定任务的数据集对预训练模型的参数进行调整和优化，监控验证集的性能指标，评估模型的性能并进行调整
模型评估
使用测试集对微调后的模型进行评估。计算模型的性能指标，并与基准模型进行比较，以评估模型的性能提升
模型部署和优化
将微调后的模型部署到实际应用中，根据实际需求对模型进行进一步的优化和调整，以提高模型的效率和性能
持续监控和更新
持续监控模型的性能和数据变化。根据监控结果，利用新的数据和反馈来进一步改进和优化模型
行业痛点
在大模型微调过程中，需要考虑各种安全需求以确保数据的隐私保护、模型资产、微调技术的机密性以及整个微调流程的可证明性。当前市场上缺乏这样一个全面的方案，以直接满足当数据提供方、技术服务方和模型所有方为不同组织或个体时，对数据安全与共享的需求。
数据安全
业务数据仅限于模型训练和推理过程，严禁查看或复制。
模型安全
各个阶段用于训练和推理的模型，仅大模型管理部门拥有访问权限
技术安全
技术服务提供方可能希望保护微调技术的机密性
解决方案
针对上述需求，隐御推出了AI大模型数据资产保护方案，该方案由三大核心部分组成：密态训练数据全生命周期管理系统、多方隐私保护的大模型微调平台，以及基于混合机密算力的大模型推理平台。这些组件共同协作，旨在预防模型在训练、微调、推理各阶段中可能发生的数据泄露或模型盗取，确保训练数据、模型资产以及用户输入的安全性。
AI大模型数据资产保护
密态训练数据全生命周期管理系统
贯穿数据从收集、处理、存储到使用的整个生命周期，确保训练数据在任何环节都不会被未经授权的第三方获取或篡改
多方隐私保护的大模型微调平台
特别设计用于支持多方参与的模型微调过程，实现在不泄露原始数据的情况下，对模型进行高效的优化和调整，保护参与方的数据隐私和模型安全
基于混合机密算力的大模型推理平台
结合了传统计算资源和加密计算资源，为模型的推理过程提供强大的算力支持。同时，通过硬件级别的加密保护和软件层面的安全机制，确保在模型推理过程中，无论是用户输入还是模型输出，都能得到充分的保护，防止信息泄露和模型被恶意利用。
