本研究提出PeZO框架，旨在解决零阶优化在硬件平台上对高高斯随机数生成的需求。通过随机数重用策略和适应性缩放方法，显著降低了硬件资源和功耗，使设备端训练成为可能。实验结果表明，PeZO在逻辑单元和功耗方面具有优势，为未来研究提供了重要见解。

本研究提出了一种新颖的零阶优化方法DiZO，解决了传统一阶微调在内存使用上的不足。该方法通过层次化差异分析，提高了收敛速度和准确性，训练时间减少48%，在多项下游任务中优于现有基准。

本研究提出了一种新的零阶优化算法，针对非平滑问题的高计算量，构建了两个优化框架。结果表明，新算法在非凸和凸问题上的查询复杂度显著改善，提高了机器学习中的优化效率。

本文提出了一种基于条件价值风险（CVaR）的风险厌恶学习方法，解决决策延迟问题。研究开发了两种零阶优化算法，发现两点风险厌恶学习比一点算法悔恨更小，并在特定延迟下实现次线性悔恨。数值实验验证了算法在动态定价中的有效性。