Подведение итогов

Databricks с Python SDK

Avi Steinberg

Senior Software Engineer

Запрос к моделям ИИ через Databricks

WorkspaceClient.serving_endpoints.query()

Запрос к моделям ИИ для выполнения SQL на данных Databricks

SQLDatabase.from_databricks(catalog, schema, warehouse_id)
SQLDatabaseToolkit(db, llm)
create_sql_agent(llm, toolkit, verbose)
agent.run("your question..")

Создание кластеров и управление ими

w.clusters.create(spark_version, cluster_name)
w.clusters.delete(cluster_id)
w.clusters.start(cluster_id)
w.clusters.get(cluster_id)

Создание заданий и управление ими

w.jobs.create(
    name, 
    tasks=[
      jobs.Task(
          description,
          notebook_task=jobs.NotebookTask(notebook_path),
          task_key
          )
    ],
    schedule=jobs.CronSchedule(quartz_cron_expression,timezone_id),
    timeout_seconds, 
)

Всё вместе

Задание Databricks и модель ИИ

Поздравляем!

Databricks с Python SDK