Zaawansowane techniki manipulacji danymi

Importowanie danych w Javie

Anthony Markham

VP Quant Developer

Usuwanie i dodawanie kolumn

Usuwanie zbędnych kolumn za pomocą .drop()
Dodawanie wstępnie obliczonych lub kategorycznych kolumn za pomocą .addColumns()
- Liczba wierszy musi być taka sama ❗

// Remove specific columns
Table cleaned = dataTable.drop("TempID", "Notes");


// Add two new columns
StringColumn statusCol = StringColumn.create("Status", "Active", "Inactive", "Active");
IntColumn priorityCol = IntColumn.create("Priority", 1, 2, 3);

Table enhanced = dataTable.addColumns(statusCol, priorityCol);

Filtrowanie wierszy za pomocą .dropWhere()

Usuwa pasujące wiersze
Używa Selection do definiowania kryteriów filtrowania

// Create a selection condition
Selection outliers = dataTable.doubleColumn("Value")
    .isLessThan(lowerBound)
    .or(dataTable.doubleColumn("Value")
        .isGreaterThan(upperBound));


// Remove rows matching the condition
Table cleanedData = dataTable.dropWhere(outliers);

Liczenie wierszy

.rowCount() - zwraca liczbę wierszy w tabeli

// Compare row counts
System.out.println("Original rows: " + dataTable.rowCount());
System.out.println("After dropping outliers: " + 
    cleanedData.rowCount());

Original rows: 100
After dropping outliers: 95

Filtrowanie logiczne

Obsługuje metody and, or, not

// Complex boolean filtering
Selection techHighPaid = dataTable.stringColumn("Department")
    .isEqualTo("Technology")
    .and(dataTable.doubleColumn("Salary")
        .isGreaterThan(100000));


// Inverse selection (NOT)
Selection nonTechOrLowPaid = techHighPaid.not();

Transformacja za pomocą .map()

Stosuje funkcję do przekształcania wartości kolumny
Obsługuje wyrażenia lambda, ułatwiając czytelność kodu

// Transform an entire column with a predefined function
StringColumn upperNames = dataTable.stringColumn("Name").map(s -> s.toUpperCase());

// Transform values in a column
DoubleColumn prices = dataTable.doubleColumn("Price");
DoubleColumn discounted = prices.map(price -> price * 0.9);


// Set a name and add a column
discounted.setName("DiscountedPrice");
Table withDiscounts = dataTable.addColumns(discounted);

Podsumowanie

.drop() - Usuwa kolumny z tabeli
.dropWhere() - Usuwa wiersze spełniające warunek
.addColumns() - Dodaje nowe kolumny do tabeli
.map() - Przekształca wartości kolumny

// Core advanced manipulation methods
dataTable.drop("TemporaryID");              
dataTable.dropWhere(selection);             
dataTable.addColumns(newColumn);            
doubleCol.map(value -> value * 2);

Czas na ćwiczenia!

Importowanie danych w Javie