CSV पार्स करना

Polars के साथ Data Pipelines का स्केलिंग और ऑप्टिमाइज़ेशन

Liam Brannigan

Data Scientist & Polars Contributor

Finance CSV एक्सट्रैक्ट

Chicago Finance Department
Generated: 2026-02-01
WARD;TYPE;STATUS;REQUEST_COST
11;Pothole in Street Complaint;Completed;125
42;Street Light Out;Open;88
27;Alley Light Out;Completed;61

🛑 हेडर पहली पंक्ति में नहीं है
🛑 कॉलम सेमीकोलन से अलग हैं

पंक्तियाँ स्किप करना

vendor_requests = pl.read_csv(
    "ward_service_requests.csv",
    skip_rows=2,

)

अतिरिक्त हेडर पंक्तियाँ स्किप करना

vendor_requests = pl.read_csv(
    "ward_service_requests.csv",
    skip_rows=2,
    separator=";",
)

पार्स की गई फ़ाइल जाँचना

vendor_requests.head(3)

shape: (3, 4)
| WARD | TYPE                        | STATUS    | REQUEST_COST |
| ---  | ---                         | ---       | ---          |
| i64  | str                         | str       | i64          |
|------|-----------------------------|-----------|--------------|
| 11   | Pothole in Street Complaint | Completed | 125          |
| 42   | Street Light Out            | Open      | 88           |
| 27   | Alley Light Out             | Completed | 61           |

स्कीमा इन्फ़ेरेंस समस्या

WARD;TYPE;STATUS;REQUEST_COST
11;Pothole in Street Complaint;Completed;125
42;Street Light Out;Open;88
27;Alley Light Out;Completed;61

पहली 100 पंक्तियाँ → schema inferred
सिर्फ int → कॉलम Int64

स्कीमा इन्फ़ेरेंस

WARD;TYPE;STATUS;REQUEST_COST
11;Pothole in Street Complaint;Completed;125
42;Street Light Out;Open;88
27;Alley Light Out;Completed;61
...
3;Rodent Baiting Service Request;Completed;61.5

पहली 100 पंक्तियाँ → schema inferred
सिर्फ int → कॉलम Int64

स्कीमा इन्फ़ेरेंस

vendor_requests = pl.read_csv(
    "ward_service_requests.csv",
    separator=";",
    skip_rows=2,
    infer_schema_length=200,
)

स्कीमा इन्फ़ेरेंस

vendor_requests.schema

Schema({'WARD': Int64, 'TYPE': String, 'STATUS': String, 'REQUEST_COST': Float64})

स्कीमा प्रदान करना

vendor_requests = pl.read_csv(
    "ward_service_requests.csv",
    separator=";",
    skip_rows=2,
    schema={
        "WARD": pl.Int64,
        "TYPE": pl.String,
        "STATUS": pl.String,
        "REQUEST_COST": pl.Float64,
    },
)

इन्फ़र्ड स्कीमा ओवरराइड करना

vendor_requests = pl.read_csv(
    "ward_service_requests.csv",
    separator=";",
    skip_rows=2,
    schema_overrides={"REQUEST_COST": pl.Float64},
)

ओवरराइड जाँचना

vendor_requests.schema

Schema({'WARD': Int64, 'TYPE': String, 'STATUS': String, 'REQUEST_COST': Float64})

खराब डेटा की समस्या

WARD;TYPE;STATUS;REQUEST_COST
11;Pothole in Street Complaint;Completed;125.0
unknown;Street Light Out;Open;88.5
27;Alley Light Out;Completed;61.0

पार्स त्रुटियाँ नज़रअंदाज़ करना

pl.read_csv(
    "ward_service_requests.csv",
    separator=";",
    skip_rows=2,
    infer_schema_length=200,
    ignore_errors=True,
)

खराब मान → null
⚠ अन्य त्रुटियों को छिपाता है

null मान चिह्नित करना

pl.read_csv(
    "ward_service_requests.csv",
    separator=";",
    skip_rows=2,
    infer_schema_length=200,
    null_values={"WARD": "unknown"},
)

इरादे वाले dtype को सुरक्षित रखता है
ignore_errors से अधिक सुरक्षित

अभ्यास करते हैं!

Polars के साथ Data Pipelines का स्केलिंग और ऑप्टिमाइज़ेशन