通过代码生成 Airflow 的 DAG 文件。
通过代码生成 python 脚本文件放到指定文件夹。脚本文件内部的代码整体上是差不多的,部分细节可能会差别比较大。
dag_id = "test_one",
task_id = "bash_task_one",
echo_content = "hello"
func_name = "func_one"
func_content = """
print("world")
"""
content = f'''
from datetime import datetime
from airflow import DAG
from airflow.decorators import task
from airflow.operators.bash import BashOperator
with DAG(dag_id="{dag_id}",
start_date=datetime(2022, 1, 1),
schedule="0 0 * * *") as dag:
hello = BashOperator(task_id="{task_id}", bash_command="echo {echo_content}")
@task()
def {func_name}():
{func_content}
hello >> {func_name}()
'''
with open('/root/dags/test.py', 'w', encoding='utf-8') as fb:
fb.write(content)
把代码放到多行字符串里,然后写到文件中。
不知道各位大佬们有没有什么好的建议
1
Alias4ck 2023-01-06 15:48:08 +08:00
如果文件内容差异不大 直接 jinjia 模板生成 应该就可以了吧
|
2
NeverBelieveMe OP @Alias4ck 个人对 jinja 的理解是渲染 html 很好用,我这个要生成 py 文件,看起来好像帮助并不大。
|
3
la2la 2023-01-06 16:26:18 +08:00
根据不同的任务写不同的通用 py 脚本,通过参数传入 py 程序运行,然后就只用保存参数跟用那个脚本就好了
|
4
zhangsanfeng2012 2023-01-06 16:39:52 +08:00
jinja 渲染一下就行了
|
5
superrichman 2023-01-06 16:47:24 +08:00
jinja 是模板引擎,并没有限定只能给 html 用
|
6
CnpPt 2023-01-06 16:52:24 +08:00
如果你的需求是你的此文标题,那么你想到的做法没有问题。
如果不是,请简述真实的需求,不然东问一句西问一句,大家都一脸懵逼 |
7
learningman 2023-01-06 17:01:33 +08:00
简单就模板渲染,复杂就上 AST 生成
format < template < ast |
8
NeverBelieveMe OP @zhangsanfeng2012 @superrichman 我不太了解 jinja 模板,想问一下,渲染的时候,如果我把函数的代码渲染进去,会不会出现缩进不正常的问题?
|
9
NeverBelieveMe OP @CnpPt 需求就是标题。我也知道自己的做法没有问题,只是想知道有没有更好的解决方案。
|
10
NeverBelieveMe OP @la2la @learningman 多谢提供思路,我试试看。
|
11
qza1212 2023-01-06 18:45:33 +08:00
用 C#写 T4 Text Templates
|
12
zhuangzhuang1988 2023-01-06 21:03:37 +08:00
@qza1212
也可以用 Java 写 stringtemplates 可以看看这本书《编程语言实现模式》,第 12 章 使用模板生成 DSL 312 https://book.douban.com/subject/10482195/ |
13
qile11 2023-01-08 00:28:27 +08:00 via Android
之前写了个 python 从网络下载 zip 压缩包,然后导入 zip 里面的文件,可是没登下载完毕就被杀毒软件杀啦,后来就没有从网络导入,直接编译一个 pyc 文件,更新时候手动替换
|
14
hanssx 2023-11-17 11:24:05 +08:00
最后老哥怎么处理的,我这比你这个还复杂,有多个 task 。。
|