在废水处理活性污泥系统中,统一控制各种行动,使用强化学习来实现多目标优化
Henry C Croll1, Kaoru Ikuma1, Say Kee Ong1
1Department of Civil, Construction, and Environmental Engineering, Iowa State University, Ames, IA, 50011, USA.
Water research
|August 3, 2024
概括
废水处理中的强化学习 (RL) 可以控制更多的行动,提高优化和节省成本. 这项研究表明RL剂可以有效地管理多个变量,即使数据较少,提高净化厂的效率.
科学领域:
- 环境工程 环境工程
- 人工智能的人工智能
- 过程控制 过程控制
背景情况:
- 现代废水处理设施面临着具有冲突目标的复杂控制挑战.
- 活性污泥系统需要先进的优化策略,数据驱动的方法,如强化学习 (RL) 显示承诺.
- 现有的RL应用程序在这个领域的范围是有限的,通常控制不到三个行动.
研究的目的:
- 调查用于废水处理的多动作,多目标RL剂的实施情况.
- 为了确定一个单一的RL代理可以有效控制的行动的最大数量.
- 评估减少环境数据对RL代理人培训和绩效的影响.
主要方法:
- 使用强化学习 (RL) 代理来控制模拟废水处理环境中的多个操作 (基准模拟模型编号). 1 - BSM1).1) 这是一个很好的例子.
- 评估了RL代理的性能,对控制行动的数量和不同级别的输入数据进行了不同的评估.
- 将RL剂的性能与BSM1.1.的基线控制方法进行比较.
主要成果:
- 随着单个RL代理控制的动作数量的增加,观察到更好的控制优化.
- 即使在环境观测范围降低的情况下,RL剂也保持了高性能水平,直到一定值.
- 控制七个动作的RL代理将BSM1的平均性能指标提高了8.3%,估计每年节省40,200美元的成本.
结论:
- 在废水处理中扩大RL控制的范围提高了优化潜力,并减少了手动调节的需要.
- 废物活性污泥控制仍然是当前RL实施的挑战.
- 在废水处理设施中,RL为先进的工艺控制提供了可行且具有成本效益的解决方案.
相关概念视频
Response Surface Methodology
102
Response Surface Methodology (RSM) is a collection of statistical and mathematical techniques used to develop, improve, and optimize processes. It is particularly valuable when many input variables or factors potentially influence a response variable.
The process of RSM involves several key steps:
The process of RSM involves several key steps:
102
Mechanistic Models: Compartment Models in Algorithms for Numerical Problem Solving
47
Mechanistic models play a crucial role in algorithms for numerical problem-solving, particularly in nonlinear mixed effects modeling (NMEM). These models aim to minimize specific objective functions by evaluating various parameter estimates, leading to the development of systematic algorithms. In some cases, linearization techniques approximate the model using linear equations.
In individual population analyses, different algorithms are employed, such as Cauchy's method, which uses a...
In individual population analyses, different algorithms are employed, such as Cauchy's method, which uses a...
47


