登录
主页
 文章
自定义RAG用户界面（Kotaemon）
kotaemon由Cinnamon开发开源，提供了一个干净且自定义的RAG用户界面，通过与文档的聊天功能，帮助用户进行问答。兼容多种LLM API供应商，包括OpenAI、Azure OpenAI和Cohere，以及本地模型。支持多用户登录，允许用户将文件组织成公共或私有集合并进行共享，能够处理包括图形和表格在内的多种文档格式，支持多模式文件解析。适用于需要进行文档问答的终端用户，以及希望构建自己的RAG管道的开发者。
2025-02-01
966
1
9
机器学习技术——强化学习从人类反馈（RLHF）
强化学习从人类反馈（Reinforcement Learning from Human Feedback，RLHF）是一种将人类反馈融入机器学习模型训练的技术。通过将人类的偏好、评价或直接指导等反馈作为奖励信号，训练奖励模型，再利用该奖励模型通过强化学习来优化智能体的策略，使智能体的行为与人类期望和偏好保持一致。
2025-01-31
1187
3
11
基于强化学习（RL）的自主思考模型
基于强化学习（Reinforcement Learning）的自主思考模型通过纯强化学习训练模型，让AI能够自己去发现问题的解决方案，避开了传统数据集依赖带来的“脆弱性”，使AI模型能够更加自主地推理和解决问题，提高了模型的泛化能力和适应性。它能够通过与环境进行交互，不断学习和优化自己的行为策略，以实现特定的目标。
2025-01-31
1147
7
2
开源RAG后端平台（JamAIBase）
JamAIBase集成了嵌入式数据库(SQLite)和嵌入式矢量数据库(LanceDB)，具有托管内存和RAG功能。内置LLM、矢量嵌入以及重新排序器编排和管理功能，所有这些都可以通过方便、直观、类似电子表格的UI和简单的REST API访问。支持任何LLM，可结合基于关键字的搜索、结构化搜索和矢量搜索以获得最佳结果。适合不同技术水平的用户进行数据操作和管理，尤其适合需要利用先进的AI能力进行数据处理和分析的用户。
2025-01-31
1094
8
10
有监督学习 vs 无监督学习 vs 强化学习
有监督学习、无监督学习和强化学习是人工智能中机器学习的三种重要学习方式，它们在定义、数据要求、学习目标、应用场景等方面存在明显差异。一、定义有监督学习 是一种机器学习方法，其中训练数据集中的每个样本都包含输入特征和对应的输出标签（目标值）。模型通过学习这些输入特征与输出标签之间的映射关系，来对新的未知数据进行预测。例如，在图像分类任务中，输入特征是图像的像素值，输出标签是图像所属的类别。有监督学习广泛应用于预测、分类和回归等任务。
2025-01-30
1094
2
7
人工智能有监督学习（Supervised Learning）
人工智能有监督学习（Supervised Learning in Artificial Intelligence）是一种重要的机器学习方法，有监督学习是指利用标记好的训练数据来训练模型，让模型学习输入特征与输出标签之间的映射关系，从而能够对新的、未见过的数据进行预测和分类的机器学习技术。在有监督学习中，训练数据集中的每个样本都包含输入特征和对应的输出标签（也称为目标值或真实值），模型通过学习这些样本的特征和标签之间的关系，来构建一个能够对新数据进行准确预测的函数。
2025-01-30
789
2
2
全场景深度学习开源框架（MindSpore）
MindSpore是华为推出的一款全场景深度学习开源框架。旨在实现不同计算平台（如云端、边缘端、端侧）和不同硬件（如CPU、GPU、Ascend等）之间的高效协同。无论是在数据中心的大规模计算，还是在手机、物联网设备等资源受限的终端上，MindSpore都能灵活适配，充分发挥各硬件平台的性能优势，实现模型的高效训练和推理。
2025-01-28
817
5
8
人工智能训练技术
人工智能训练技术（Artificial Intelligence Training Techniques）在推动人工智能发展、实现各种智能应用等方面发挥着至关重要的作用。通过大量的数据和合适的训练技术，模型能够学习到数据中的复杂模式和规律，从而提高对未知数据的预测和判断准确性。例如在图像识别中，经过充分训练的卷积神经网络可以准确识别各种物体，在医疗影像诊断中帮助医生更准确地发现病变。训练技术能够让模型在不同的数据集和实际应用场景中都保持较好的性能表现，避免过拟合。例如在自然语言处理中，经过多轮训练和优化的语言模型可以理解和处理各种不同风格、主题的文本。
2025-01-28
686
7
13
人工智能学习入门
人工智能学习入门可以从了解基础知识、掌握编程语言、熟悉工具框架、实践项目操作等方面入手。一、学习基础知识1.数学基础：人工智能涉及大量的数学知识，主要包括线性代数，如矩阵运算、向量空间等，它是理解神经网络等模型的基础；概率论与数理统计，如概率分布、贝叶斯定理等，用于处理数据中的不确定性；还有微积分，如导数、梯度等，在优化算法中起着关键作用。可以通过阅读《线性代数导论》《概率论与数理统计》《微积分》等经典教材来学习。
2025-01-28
893
4
8
AI无监督预训练
无监督预训练（Unsupervised Pretraining）是一种机器学习技术，旨在让人工智能模型在没有人工标注数据的情况下，自动从大量原始数据中学习到通用的特征和模式。无监督预训练的核心是让模型自主地从数据中发现规律和结构。例如，在处理大量文本数据时，模型会自动识别词与词之间的共现关系、句子的结构模式等；在处理图像数据时，会自动学习图像的边缘、纹理等基本特征。
2025-01-28
945
8
8
FP8混合精度训练
FP8混合精度训练（FP8 mixed precision training）是一种在深度学习训练中采用的技术，旨在提高训练效率和降低计算成本，同时保持模型精度。采用FP8低精度训练技术，同时结合其他精度的数字表示进行混合精度训练。这样可以在保证计算速度的同时，降低通信开销，减少模型训练过程中的内存占用和计算量，提高训练效率，使得在有限的硬件资源下能够更快地训练大规模的模型。
2025-01-27
880
1
1
混合专家架构（Mixture of Experts，MoE）
混合专家架构（Mixture of Experts，MoE）混合专家架构是一种将多个专门的子模型（称为“专家”）组合在一起的机器学习架构，通过一个门控网络来动态地决定在处理每个输入时应该使用哪些专家，从而利用多个专家的优势来处理复杂的任务，提高模型的性能和泛化能力。通过多个专家网络来处理不同的任务或特征，每个token可以激活不同的专家，模型能够根据输入的特点动态地选择合适的专家进行处理，提高了模型的灵活性和表达能力，同时在保证性能的前提下，降低了模型的计算成本和参数规模。
2025-01-27
876
3
1
多头潜在注意力机制（MLA）
多头潜在注意力机制（Multi-Head Latent Attention，MLA）相比传统的注意力机制，它能让模型在训练时同时预测更远位置的token，增强了对未来的感知能力，有助于模型更好地捕捉文本中的长距离依赖关系，提升对语义的理解和生成能力。MLA是在传统注意力机制基础上发展而来的一种改进型注意力机制。它的核心思想是通过多个头（head）的并行计算，让模型能够同时关注文本中不同位置和不同语义层面的信息，从而更全面、更深入地捕捉文本中的长距离依赖关系和复杂语义结构。每个头都可以看作是一个独立的注意力单元，能够学习到不同的特征或模式，最后将多个头的结果进行融合，得到更丰富、更具表现力的特征表示。
2025-01-27
615
4
11
BERT算法族
BERT（Bidirectional Encoder Representations from Transformers）算法即双向Transformer编码器表征，是一种用于自然语言处理（NLP）的预训练模型，由谷歌在2018年提出。BERT算法为自然语言处理领域带来了重大突破，为各种NLP任务提供了强大的基础模型，后续许多NLP研究和应用都是在BERT的基础上进行改进和扩展的。
2025-01-27
600
7
7
局部敏感哈希（LSH）
局部敏感哈希（Locality Sensitive Hashing，LSH）是一种在高维数据处理中广泛应用的技术。它的核心特点是能够在一定程度上保持数据的相似性，即相似的数据在哈希后有较高的概率被映射到同一个桶（bucket）中，而不相似的数据则大概率被映射到不同的桶中。一、原理1.核心思想：基于数据的局部性原理，即相似的数据在特征空间中往往是“聚集”在一起的。LSH通过设计特定的哈希函数，将相似的数据映射到相同或相近的哈希值，从而实现对相似数据的快速查找和筛选。
2025-01-27
608
0
9
K维树（KD - Tree）
KD - Tree（K - Dimensional Tree）即 k 维树，是一种用于高效处理 k 维空间数据的数据结构，在计算机科学和机器学习领域有着广泛应用，下面从基本概念、构建过程、搜索过程、应用场景几个方面为你详细介绍：KD - Tree 是一种二叉搜索树的变体，它将 k 维空间递归地划分为多个区域。每个节点代表 k 维空间中的一个点，同时将空间划分为两个半空间。通过这种方式，KD - Tree 可以有效地组织和存储高维空间中的数据点，从而实现快速的最近邻搜索、范围搜索等操作。
2025-01-26
987
2
5
分层可导航小世界图（HNSW）
HNSW（Hierarchical Navigable Small World）图即分层可导航小世界图，是一种用于在高维空间中进行近似最近邻搜索（Approximate Nearest Neighbor Search, ANN）的数据结构和算法，在向量数据库等领域有着广泛应用HNSW图的设计灵感来源于小世界网络理论。在小世界网络中，大多数节点彼此并不相邻，但任意两个节点之间的平均路径长度却相对较短。HNSW图通过构建多层图结构，将高维空间中的向量组织成一个具有层次结构的图，使得在图中可以高效地搜索到与查询向量最相似的向量。
2025-01-26
914
9
0
向量数据库（Pinecone）
Pinecone是一款基于云服务的全托管向量数据库，专为处理和搜索高维向量数据而设计，在人工智能和机器学习应用中发挥着重要作用。在人工智能领域，许多非结构化数据（如图像、文本、音频等）经过深度学习模型处理后会被转换为高维向量，这些向量能够捕捉数据的语义信息和特征。Pinecone的核心功能就是高效地存储这些向量数据，并通过近似最近邻搜索（ANN）算法，快速找出与给定查询向量最相似的向量。例如，在图像识别场景中，将每张图像转换为向量后存储在Pinecone中，当输入一张新的图像并转换为查询向量时，Pinecone可以迅速找出数据库中与之最相似的图像向量。
2025-01-26
740
5
12
知识蒸馏（Knowledge Distillation）的发展历程
知识蒸馏（Knowledge Distillation）是一种在机器学习领域广泛应用的技术，主要用于将大型模型（教师模型）所学到的知识迁移到小型模型（学生模型）中，使得小型模型在计算资源和存储需求降低的情况下，仍能达到接近大型模型的性能。知识蒸馏自提出以来，不断发展和演进，在深度学习领域发挥着日益重要的作用。
2025-01-26
1071
3
4
什么是知识蒸馏技术？
知识蒸馏（Knowledge Distillation）是一种模型压缩和加速技术，旨在将大型模型（通常称为教师模型）所学到的知识迁移到小型模型（通常称为学生模型）中，从而让小型模型在减少计算资源消耗和推理时间的同时，尽可能达到接近大型模型的性能。具有很好的成本效益，在实际应用中有助于降低计算资源需求和部署成本。
2025-01-25
906
7
3
- -
© 2021 - 现在 杭州极深数据有限公司 版权所有 联系我们 
浙公网安备 33018302001059号  浙ICP备18026513号-1号