Podsumowanie

Databricks z Python SDK

Avi Steinberg

Senior Software Engineer

Zapytania do modeli AI w Databricks

WorkspaceClient.serving_endpoints.query()

Zapytania do modeli AI uruchamiające SQL na danych Databricks

SQLDatabase.from_databricks(catalog, schema, warehouse_id)
SQLDatabaseToolkit(db, llm)
create_sql_agent(llm, toolkit, verbose)
agent.run("your question..")

Tworzenie klastrów i zarządzanie nimi

w.clusters.create(spark_version, cluster_name)
w.clusters.delete(cluster_id)
w.clusters.start(cluster_id)
w.clusters.get(cluster_id)

Tworzenie zadań i zarządzanie nimi

w.jobs.create(
    name, 
    tasks=[
      jobs.Task(
          description,
          notebook_task=jobs.NotebookTask(notebook_path),
          task_key
          )
    ],
    schedule=jobs.CronSchedule(quartz_cron_expression,timezone_id),
    timeout_seconds, 
)

Łącząc wszystko w całość

Zadanie Databricks i model AI

Gratulacje!

Databricks z Python SDK