7月7日,在2023世界人工智能大会上。英伟达(NVIDIA)中国区首席技术官赖俊杰表示,英伟达在全球数据中心计算问题上观察到两个重要趋势:一是人们对人机交互的期望大大提高,引发了全球第二波关于大模型的投入浪潮。
二是很多互联网公司面临着用户需求增长、功耗越来越多的问题,特别是人工智能的大模型访问比例增加。意味着需要更多的能耗投入。
针对第二个趋势,英伟达提出如果能更多地将任务负载从CPU移至GPU。那么能在支撑同样多的用户请求之同时,节省更多的能耗。(澎湃新闻记者范佳来 实习生 葛羽馨)
相关教程
2023-11-09
2024-06-22
2023-09-05
2023-12-09
2024-01-15
2023-09-20
2024-10-12
2024-02-26
2024-11-17
2024-11-16
2024-11-16
2024-11-15
2024-11-15
2024-11-15