阳明交通大学电子研究所教授侯拓宏领导的团队深耕内存内运算技术多年，透过内存元件、内存电路、人工智能算法的跨层级共同设计，一步步提升内存内运算的效能，以商用化的 28 奈米制程技术，发表全世界最高能效的三元卷积神经网络（ternary CNN）内存内运算加速芯片。
内存是各种电脑系统中储存数据不可或缺的硬件单元，但现在新一代的智慧内存有更多的应用，可以储存数据，并进行庞大的数据运算，能如人脑一般结合储存与运算于一体，这样的内存内运算（in-memory computing）架构模仿人脑神经网络的架构，是未来实现高效能、低耗电人工智能的希望所在。
今年的 IEEE 亚洲固态电路会议（IEEE A-SSCC）中，阳明交大与工研院电光系统所团队共同合作，以商用化的 28 奈米制程技术，发表目前全世界最高能效的三元卷积神经网络（ternary CNN）内存内运算加速芯片。
▲全世界最高能效的三元卷积神经网络内存内运算加速芯片。（Source：阳明交大）
三元卷积神经网络内存内运算加速芯片，每瓦功耗每秒可进行超过两万兆次的运算（20943 TOPS/W），较过去的技术大幅提升 3.7 倍，面积使用效率也提升 4.5 倍，树立全新的内存内运算性能里程碑。
透过跨层级共同设计技术，三元卷积神经网络内存内运算加速芯片，克服内存内运算中存在的计算误差，展示极低耗电且高准确的语音关键字辨识能力，目前与工研院的团队正积极将该技术导入商业用“即呼即醒”的智慧蓝牙耳机中。
侯拓宏表示，人工智能的瓶颈之一在于运算硬件的效能，也是人工智能运算无法由资料中心全面普及到个人行动装置的主要原因，内存内运算因为其高能效的特性，是目前全世界各大 IC 设计公司与内存公司关注的破坏性技术，但真正的潜力仍未被完整的实现。
侯拓宏强调，这次的研发成果充分展现内存内运算的进步性，而使用商业化的半导体技术，让该技术的商品化导入更加容易，相信再经过几年的努力，打造如人脑一般高效的人工智能运算硬件将不再是遥不可及的梦想。
（首图来源：阳明交大）
