TurboAttention提出了一种全新的LLM信息处理方法。该方法通过一系列优化手段替代了传统的二次复杂度注意力机制，包括稀疏多项式软最大值近似和高效量化技术。初步实现结果显示，该方法可实现70%的计算成本降低，同时保持98%的模型精度。