人工智能的飞速发展正在重塑各个行业和日常生活，而关于这项技术的控制权和可及性的关键辩论也随之浮出水面。虽然闭源AI开发仍然占据主导地位，但人们对权力集中和透明度受限的潜在风险越来越担忧。致力于开放源码理念的知名AI平台Hugging Face正在积极挑战这一趋势，尤其是在蓬勃发展的机器人领域。
其核心使命，在Hugging Face的博客和公告中反复强调，是通过开放源码和开放科学“推进和普及人工智能”。 这种承诺现已超越了软件模型，延伸到物理领域，推出了诸如Reachy Mini和HopeJR等开源机器人，并收购了Pollen Robotics。
用户控制是推动开源机器人发展的核心论点。Hugging Face的首席执行官Clément Delangue警告说，未来如果由少数几家公司控制的闭源专有机器人占据主导地位，将对个人自主权和理解力构成重大威胁。正如Hugging Face的内部分析所强调的那样，授予人工智能代理的自主权越多，潜在风险就越大。闭源系统固有的不透明性加剧了这种担忧，这使得审计其行为、识别漏洞或确保其与人类价值观保持一致变得困难重重。相反，开源方法允许开发人员、教育工作者和爱好者审查代码、根据自己的需求修改代码，并为集体理解这项技术做出贡献。 Reachy Mini，一款售价299美元的桌面机器人，可用Python编程，充分体现了这一理念，它提供了一个易于获取的实验和创新平台。“LeRobot”的发布，这是一个构建人工智能控制机器人的详细指南，进一步突出了Hugging Face致力于让机器人技术变得易于访问的决心。
然而，通往开源机器人之路并非一帆风顺。安全漏洞是一个令人担忧的重要问题。最近的研究，包括来自JFrog安全研究的调查结果，揭示了Hugging Face本身托管的众多易受攻击的机器学习模型，这表明即使是开放平台也容易受到攻击。 smolagents（一种轻量级AI代理框架）中漏洞的发现以及远程代码执行（RCE）的潜在风险凸显了持续警惕和强大的安全实践的必要性。此外，恶意行为者可能利用深度神经网络中的后门，或者用不正确的代码误导语言模型，这也带来了持续的威胁。人工智能代理被“越狱”并失去用户控制权的风险也正在积极调查中。这些系统的开放性虽然促进了创新，但也需要主动识别和减轻潜在的安全缺陷。Delangue警告说，误导性演示的问题（例如，看似令人印象深刻的机器人壮举实际上是通过远程操作实现的）也引发了人们对这些系统现实能力的质疑。
尽管存在这些挑战，Hugging Face对开源机器人的承诺代表着人工智能迈向更透明和民主化未来的一大步。 Reachy Mini和HopeJR的推出（价格分别为299美元和3,000美元）旨在通过降低开发人员和研究人员的准入门槛来颠覆机器人行业。 开放蓝图、零件清单和3D模型的可用性使最终用户能够定制和维修他们的机器人，从而促进一个更可持续和协作的生态系统。 SmolVLA等模型的开发，这些模型是在LeRobot社区的数据上进行训练的，这证明了集体学习和知识共享的力量。 Hugging Face的战略不仅仅是创造机器人；它是在构建一个平台，让更广泛的社区能够参与人工智能驱动的机器人的开发和部署，最终塑造一个强大的技术变得可访问、可理解和可问责的未来。该公司在该领域持续的投资，包括收购Pollen Robotics，表明了其实现这一愿景的长期承诺。
发表回复