在数字经济中，数据是基础生产要素，算法通过控制数据让其产生最大附加值。数字经济已成为人类的未来，而人工智能是整个数字经济的核心。
通过技术已无法控制人工智能
小i集团董事局主席兼CEO袁辉在2024年博鳌论坛“科技革命奇点”分论坛中表示，“在今天，人工智能完全赋能所有行业，未来通过技术已经无法控制人工智能了，最终想要控制人工智能要用非人工智能的方式。”
对此，袁辉向网易财经表示，人类要想面对人工智能未来的挑战，必须得突破自己当下的认知，必须得有一种颠覆性的、创新的、突破性的思维模式，才能够找到如何跟它共存的未来之路。举个例子，你作为师傅将自己30年宝贵经验、知识和秘籍教给徒弟，他肯定青出于蓝而胜于蓝。接下来，你要击败他就不能用原来传统的套路和方式，因为他还可能师承多人，将其他门派所有功夫都学了个遍。人类在整个知识和经验层面，已经完全被人工智能碾压。
再举一个数字给大家做参考。2026年之前，基本全世界所有的文本数据，人工智能全部都会学习一遍；2030年之前，图片视频数据可能全部都会学习一遍。你身边站着一个集人类所有知识和经验的助手，接下来人工智能能帮助我们提供所有的决策，而决策的依据和标准，包括数据的产生，都是由人工智能去完成。所以人类要想面对人工智能未来的挑战，必须得突破自己当下的认知，必须得有一种颠覆性的、创新的、突破性的思维模式，才能够找到如何跟它共存的未来之路。
其指出，过去所有创造的工具，都是人类希望它能让人类生活更美好，人工智能在第一阶段一定会满足人类的需求，但到第二阶段，当它完全具备了所有能力成为新的物种，还希望它老实听话，我觉得不太现实。
目前安全性非常脆弱
未来，若人工智能逐渐发展为新的生命体（碳基生命、硅基生命），AI的价值观和原则是否会成为一个无法解决的安全性问题，因为人性是混乱的、无法解决的，包括现在一些AI领域的领先公司，虽然尝试制定了《AI宪法》，但AI的安全护栏似乎难以跟上AI发展的脚步。
关于目前人工智能的安全性，袁辉向网易财经表示，它（人工智能）目前还没有非常直接、明显的伤害人，但是安全是极其脆弱的。人工智能对人类的影响能力已经开始显现，比如我们现在越来越多地使用AI工具去做决策和判断，它是否具备相应的意识形态的偏移？它对所谓伦理、道德和价值观，是否跟人类保持完全一致？很显然不可能。
第二，我们也看到过一些视频的人形机器人，现在可以完全拿着枪支，对目标进行无差别的扫射。过去的人形机器人，它可能没有大脑，但今天被大模型赋能后，它已经完全具备了跟人类随意交互的功能。甚至你今天删除了大模型其中的一段代码，它会跟你说，“求你不要删除，我能够为你创造更多的价值。”那你觉得这还是一个机器在跟你聊天吗？它来自多种维度和要素的集中与融合，融合到一定阶段就会显现安全问题。
另外，从军事上来讲，现在越来越多武器被赋予了人工智能，这都是人工智能在另外延申的，令人类担心的场面。
袁辉认为，接下来，人类所面临的最大挑战就是如何跟人工智能共存。“当下监管一刻都不能暂缓和停歇，在此过程中要快速突破现在的框架。我们现在所有的监管方式、手段、工具、思维、想法、思路，都是过去的思路。我们眼睁睁地看着新的物种在越来越强大，但是我们所谓的对他们的监管和约束是越来越弱。所以这个问题不在于用现有的技术怎么去做，而是必须去做，而且迫在眉睫。
能源制约已不是人类的问题
从终局来看，市场上似乎不需要那么多基础大模型，但大模型的发展水平关系到国家生产力水平，关于AI面临的能源问题，国际上有声音认为，核聚变或能成为一个解决方案，也有声音指出应该利用太阳能（或风能），不应不计成本去做人造太阳，对此您怎么看，关于未来可能面临的能源制约问题，我国应该如何面对这场大考？
就此，袁辉向网易财经表示，核心的基础大模型，未来一定不是很多人需要去做，但今天是整个核心基础大模型发展的关键时期，现在恰恰是需要有更集中、更大、更多的力量去投入在核心基础之上。否则，国家安全无从谈起。未来社会经济形态的发展一切都依赖于这个平台之上，如果这个平台不做支配和掌控，风险是极高的。
人工智能目前算法需要依托于算力平台，算力平台短期受制于目前的能源，今天把所有的电力投入进去，都不能解决人工智能的问题。算力也是一样的，GPU芯片全部投入进去都不能解决。所以算力角度来讲，会面临下一代算力突破，比如量子计算；能源角度来讲，核聚变和光能大家不要忽略，人工智能作为一个新的物种，已经开始显现在氨基酸、蛋白质、核聚变上，已经对基础科学产生了重大的推动，这是人类的视角，能源对我们的。
换个视角，人工智能像一个正在成长的年轻人，如果衣服小了，它就会（想办法）解决，人工智能不会让能源对它现在发展产生制约要素，成为它的瓶颈。就像人一样，在面临“衣服小”的基础问题上一定会找到解决方法，并快速的解决这个问题。
人工智能未来的成长之路会迅速打通所有这样的环节，这已经不是人类的问题。为什么说在第一阶段人类会享受人工智能带来的红利？因为人工智能会为人类在第一阶段，开放一个看上去更了不起的、更宏大的空间，包括在平行世界，包括解决能源，医疗生物，很多过去人类所不能解决问题。但换个视角，它可能不是在为你解决问题，而是在为它（自己）解决问题，它要释放自己未来成长的空间。
“从这些点来说，我充分相信，未来5到10年，我们现在所面临的很多瓶颈，将会大规模的、颠覆性的被解决。”