虽然我国云计算产业面临良好的发展机遇，但也面对着许多障碍。
首先，云计算的关键产品与技术主要依赖国外厂商。目前，实现云计算业务平台的技术与产品主要都由国外厂商掌握和提供，如VMWare的ESX、Ctrix的 Xen、微软的HyperV、谷歌的Map-Reduce/GFS/BigTable体系等。国内希望提供云计算的企业或者直接购买国外厂商的产品或解决方案，或者在一些开源平台上进行开发，但直接购买解决方案的方式无法提升我国产业自身的技术水平，而基于开源平台开发的系统很难投入商业运行或实现较大的系统规模。
其次，宽带网络建设无法满足云计算业务发展的需求。根据有关报告，中国平均上网速度与同期OECD国家的平均接入带宽相差10倍以上。由于宽带网络的普及率仍然不高、接入速率偏低、运营商之间网络互联质量差，以及各地区网络发展水平不均衡等问题，导致用户使用高质量的云计算业务的需求无法满足，在很大程度上制约了目前云计算在中国的发展。
最后是数据中心规模小、能耗高、技术水平低。数据中心是构建云计算平台的基础。无论哪种云计算业务模式，都需要有规模化、节能化的大型数据中心的支持。谷歌、亚马逊、微软等云计算技术与服务的先进企业同时拥有目前世界上最先进的数据中心技术和基础设施。反观我国数据中心的发展状况，规模小、能耗高、技术水平低，没有自己的服务器资源，只提供机架、机房和带宽出租等基本服务，距离转型成为领先云计算平台提供者的要求相去甚远。
另外，相关数据保护的法律法规以及行业管理制度缺失。云计算是一种公众服务，需要进行法律与政策层面的监督与管理。从法律层面来说，要解决服务提供商的责任与义务问题，并从法律的高度规定用户数据与隐私保护的重要性。由于云计算可能导致数据的跨境流动，也带来了地域法律适用性的问题。目前国际上许多国家和地区都在考虑原有法律是否能够适用于云计算服务的问题。相比之下，我国在信息安全保护的法律方面还存在很大的不足，虽然2006年即有政协委员提议制定《信息安全保护法》，但此立法一直没有启动，这对于云计算服务的健康开展十分不利。从监管层面来看，我国对于互联网业务的监管目前主要依照《电信业务分类目录》，而对于云计算的相关业务形式目前在《分类目录》中并没有明确体现，这也导致很多希望提供云计算服务的公司对监管情况把握不清，因此迟迟不敢推出相关业务，在一定程度上阻碍了云服务的发展。
