AIoT开发界冲出“黑马”

天下苦AI开发和部署久矣。 由于x86和ARM架构的不兼容性，AIoT开发和部署企业往往只能选择单一生态进行应用，否则就需要采用两套系统，难以进行快速的开发和部署。 打造跨生态的、能兼容Android、鸿蒙和Linux的、一站式AIoT应用快速开发和部署平台的呼声不绝。 2020年，一个从教学出发的AI开发项目“AidLearning”在不增加硬件成本投入的情况下，还能解决产品受制于Android单一生态、缺乏强大AI支持能力的问题，并扩展Linux系统服务功能，引起了北京裕兴软件有限公司（下称“北京裕兴”）注意。他们深入了解后发现，除了这些功能，这款产品还能在泛AI的场景中进行多样开发。伴随着北京裕兴对该项目商业化的强烈需求，成都阿加犀智能科技有限公司（下称“阿加犀”）在成都高新区诞生了。  2021年12月17日，由AidLearning进阶而来的智能物联网（AloT）应用开发和部署平台AidLux1.0版本，在官网及国内各大应用商城上线，首个基于ARM架构的跨生态（Android/鸿蒙+Linux）一站式AIoT应用快速开发和部署平台正式亮相。该平台除了保持对个人用户免费使用的特性，在支持商业化的大型项目使用、开发和部署上更加完善。  AIoT开发和部署产品赛道出现了一匹黑马。   ARM架构下的跨生态平台 AI开发最初的桎梏，来自于底层框架“二选一”的软件生态环境。 目前的开发设备以PC端的X86架构为主，搭载的Linux系统生态成熟、兼容软件多，但X86平台硬件往往功耗高、便携性差、价格昂贵；移动端的ARM架构处理器功耗低、效能高、便携性强、价格便宜，但搭载的Android系统开发功能受限，AIoT应用开发门槛高、生态碎片化，且支持度相对落后，应用部署困难。 ARM曾发布两款针对移动终端的AI芯片架构，但由于生态不完整、软件系统不完善，以及对Linux系统不兼容，企业只能“望ARM兴叹”。 阿加犀基于ARM架构，推出能同时支持Linux和Android的跨生态平台AidLux：打破以往借用虚拟机实现跨系统的模式，通过共享 Linux 内核实现Android 和 Linux 系统融合，形成可独立使用又能相互通信的跨 Android和Linux系统平台，实现了1+1﹥2的效果，兼具了ARM架构的便捷、高性价比和低成本。 同时，AidLux带来了Android+Linux生态优势叠加，兼具Android系统应用丰富、交互性强和Linux系统安全性、稳定性好的优势，实现了跨生态无缝交互。无需开发者手动对系统进行切换，就能带来Android和完整的原生Linux使用体验。  基于ARM架构的跨生态平台 此外，AidLux在终端部署方面也具有优势。Android与鸿蒙系统支持的ARM 64位智能终端，都能通过APK包安装方式，快速部署AidLux到ARM架构的手机、平板、电脑和板卡等智能终端，避免了复杂的安装步骤，也不需要根据不同的品牌或机型选择复杂的安装包。 AidLux支持多种智能终端 安装后的使用操作方面，AidLux平台不仅保留了ARM的低功耗，同时由于自己内部的系统完备，能支持多终端协同访问，保证不同框架的指令能自动适配其他终端应用，只需要在PC端通过浏览器即可实现手机、平板和ARM智能终端的远程使用与管理。  AidLux支持多终端协同访问 多元共生的独特ARM架构，解决了AI开发的第一道门槛。  阿加犀首席科学家顾实教授的学生还曾反馈“AI开发准备工作太过繁琐冗长”，这引起了他的思考：“要是有平台能自动配置好编程工具、AI框架及科学计算依赖库等各种必要软件就好了。”  第二道门槛出现了。 速效双增的集成式应用 Valorem Reply的全球创新、研究与孵化总监、前微软MVP&RD René Schulte（雷内舒尔特）曾表示，AI开发的代码前置与调用解决方案将成为顶级技术趋势之一。 顾实对此表示：“持续降低AI应用开发技术门槛是阿加犀的首要任务。”因此，AidLux在实验过程中，就定下了目标：从框架、语言库、应用系统包、外接设备、硬件组织等方面进行系统提升。 首先解决的是语言的选用问题：无论是只擅长一种语言的程序员，还是多语言协作开发的团队，都能在AidLux上进行操作。 常规Al应用开发需要C++、Java、Python、Linux等不同工程师相互配合，而在AidLux平台，开发者仅需使用Python一种编程语言即可进行开发，并支持将其他平台（PC、服务器）上使用Python开发的AI应用直接迁移至AidLux调试运行。同时，AidLux也支持多种开发语言及对应编程框架，如C/C++、Python、Java、JavaScript、Ruby、PHP、Go、Shell等。 AidLux便捷的使用过程 应用软件部分，AidLux支持上百万个Android软件和数万个Linux软件，既可以使用应用中心安装，也可以使用命令行安装。这些软件既包括用户熟知的微信、QQ、计算器、相册、相机和音乐等，也包括Linux常用的git、mysql、hadoop、nginx、Apache、Vim、ssh、wizard、vscode、jupyter、chromium、ROS等。 顾实教授表示：“像使用应用商城一样调用语言和软件，是我们接受最多的需求，也是我们测试下来最符合当代开发者习惯的调用方式。这种体量的软件库，能满足99%的开发需求，不再到处寻找未知风险的应用。”  AidLux支持上百万个Android软件和数万个Linux软件 除了语言和应用，AI开发还极其依赖开发环境和框架，AidLux集成了全球10大主流AI框架（TensorFlow、PyTorch、Caffe、MXNet、MNN、NCNN、MindSpore、PaddlePaddle、TNN、OpenCV），并做了全面的环境部署和适配，开发者无需配置，开箱即用。   AidLux集成的全球10大主流AI框架 解决了复杂的开发工具和环境，另一道难题也随之出现：模型封装。  不同模型格式文件和外设驱动文件，都有各自对应封装与解析的编码和框架，往往造成“系统功能一小半，封装工具千千万”的情况。 对此，AidLux推出了aidlite接口，对各种深度学习框架统一封装，对于pb、h5、pt、tflite、onnx、ncnn等模型格式文件，开发者只需调用统一接口解析推理，AidLux提供智能匹配，为用户适配最合适的AI框架，解决开发者必须针对不同框架编写不同版本推理代码的烦恼。 同时，内置外设极速互连模块，支持丰富的接口与外设，如USB、LAN、WiFi、4G/5G、蓝牙、GPS、陀螺仪、RS232、RS485、Arduino、机械臂、高清摄像机、深度相机和网络相机等。对不同外接设备的高容纳，意味着满足更多的设备适配和需求场景，对不同行业的兼容度更好。 AidLux的内置外设极速互连模块 在功能上，AidLux封装的aidlite还实现了模型加密的功能，使用Fernet算法对模型进行的加密，消除了开发者对于模型外泄、被第三方私自使用的担忧。 aidlite的模型加密功能 当然，简化的不只是开发和封装，还有AI示例和图形化“零”代码开发的过程。  AidLux内置了丰富的AI应用示例，开发者们可以根据自己的需求，借鉴参考使用，启发无限灵感。以及内置全新打造的图形化开发工具Wizard，支持拖拽式AI应用开发，自动生成代码，提供了设计、编码、测试全流程支持，使用户聚焦于业务逻辑的实现，节省开发时间。 AidLux的AI应用示例 AidLux的图形化开发工具Wizard 然而，随着采用AidLux进行AI开发应用越来越深入，对边缘端算力的要求也越来越加码，很多慕名而来的客户却面临着无法承载过高能耗的痛点，“算力需求过高的开发系统犹如销金窟”。 阿加犀又开始了新的技术攻关，这一次他们选择从算力下手。 “每个FLOP，都是客户的成本” 硅谷知名投资顾问公司A16Z曾表示：“看一个产品能否落地，除了看功能，还需要看它的算力成本是否过高。”这和顾实教授的看法不谋合而：“每个FLOP，都是客户的成本，我们除了在软件上要做到精而全，还希望软硬结合来释放更多算力，节约更多成本。” 普遍意义的AI开发，意味着极高的算力需求：算法的先进性，算法的复杂度（每多一个过程，所需算力增加），构成AI的区块数量等因子，都决定了算力的高低。但阿加犀却认为，可以通过智能加速来解决这个问题。 对此，阿加犀着手进行自主AI智能加速技术研发，可实现CPU+GPU+NPU智能加速，运行量化后的AI工程文件整体性能提升15%-30%，可以充分调用和发挥设备的AI计算能力。 AidLux的CPU+GPU+NPU智能加速 从技术层面和特性层面解读，AidLux是一个划时代的独特产品，背后承载着阿加犀团队对于简化AI开发流程、降低AI开发门槛、改变AI开发世界版图的想法。  从底层框架看，AidLux选择了在CPU里披襟斩棘的ARM架构，而非传统AI开发工具常用的x86架构；从操作系统看，AidLux率先提出并构建了Android/鸿蒙+linux的融合架构，并已经实现了在多智能终端的远程使用与管理；从应用场景来看，AidLux已经应用在智能工业、物联网、通信质检、视频终端、智能家居、教育等场景。 移远通信是全球领先的物联网整体解决方案供应商，在模组产品智能化生产过程中，AidLux平台助力其打造全球更先进的模组质检整体解决方案。较传统的质检方案，AidLux平台提供的跨OS融合、 AI视觉、自监督算法等先进技术，助力移远智能工厂实现突破，打造更高效、更经济的自研质检整体解决方案。同时，AidLux平台也助力移远高端智能模组在工业智能制造领域顺利落地应用，实现了移远高端智能模组检测自有工厂生产的物联网模组。 划时代“吃螃蟹的人” 阿加犀不是第一个提出做跨生态的ARM架构开发者平台，却是第一个做到的企业。  “2018年，我们几个极客朋友在一起头脑风暴，从第一性原理出发，顺着逻辑推演未来AI产业的场景。物联网业未来的趋势必然是移动终端越来越多，对接设备越来越丰富多样，从熵的角度来看，如果是一个封闭的生态系统，支持他们的系统复杂性就会越来越高，稳定性会越来越差。因此我们必须做一个开放的生态，就像地球支撑生命一样，有海洋，有陆地，还有空气，让这些元素能够便捷为生命所用。对应到AI的开放生态，就是“敏捷”适应各种开发需求，最好能够自动转码，让开发者们更便捷地释放他们的创造性。”顾实教授一边展示如何用AidLux快速生成扫地机器人的程序，一边感叹：“但我们当时怎么也找不到能解决这个问题的产品，就想着干脆就自己做一个。” 顾实教授和他的几个极客朋友成立了研发小分队，分别从架构、框架、语言方面下手，搭建早期的AidLearning平台。 “发了几个月就有300万次使用量，迭代反馈都爆了。好多人发邮件说，有了MindSpore也要上PaddlePaddle框架才行、能用hadoop那也要能用jupyter才公平。这里要感谢一直支持我们的用户小伙伴们，正是因为他们的热情和层迭不断的需求，催着我们以一种打鸡血的状态不断更新版本，应用兼容性上也做得非常全面。后来北京裕兴找到我们说要商务合作的时候，我们出去（在行业里）一看，原来在AIOT落地敏捷开发痛点这个产业需求方向上，我们已经跑得比谁都快了。” 对阿加犀而言，除了当“第一个吃螃蟹的人”，未来AidLux还要做泛AI的更多场景开发功能。“不只是智能家居和工业检测，AI教育、智慧城市、智慧物流、智慧交通、智慧零售和机器人都会是我们生态的发展方向。” AI教育、无人机、机器人相关行业的意向客户纷至沓来，投资机构也争相面谈下一步机会。 毕竟对业界来说，AidLux的普及，意味着基础的框架和语言可能逐渐被“零”代码代替。 时代变化，AIoT开发和部署产品赛道冲出一匹黑马！