Datatransformationsmönster

Importera data i Java

Anthony Markham

VP Quant Developer

Map-funktionen

Transformerar varje element i en kolumn

DoubleColumn celsius = DoubleColumn.create("Celsius", 0, 10, 20, 30);

DoubleColumn fahrenheit = celsius.map(c -> c * 9.0/5.0 + 32);
table.addColumns(fahrenheit.setName("Fahrenheit"));

Celsius	Fahrenheit
0.0	32.0
10.0	50.0
20.0	68.0
30.0	86.0

Reduce-funktionen

Kombinerar alla värden i en kolumn till ett enda resultat
Använder ett ackumulatormönster (t.ex. summa, max eller egen logik)
Användbart för statistiska och analytiska operationer

// Find the total sales
double totalSales = table.doubleColumn("Sales").reduce(0, Double::sum);

// Find the maximum
double largeSales = table.doubleColumn("Sales").reduce(0, (acc, x) -> acc + (x > 5000 ? 1 : 0));

Raditeration med forEach

Itererar genom varje rad i en tabell

DoubleColumn difference = DoubleColumn.create("Difference");
table.forEach(row -> {
    double celsius = row.getDouble("Celsius");
    double fahrenheit = row.getDouble("Fahrenheit");
    difference.append(fahrenheit - celsius);
});

table.addColumns(difference);

Celsius	Fahrenheit	Difference
0.0	32.0	32.0
10.0	50.0	40.0
20.0	68.0	48.0

Transformationspipelines

Kedja ihop flera operationer
Ökar läsbarheten och underhållbarheten i koden ✅
Effektiv databearbetning ✅

Table result = originalTable
    .where(numberColumn("Age").isGreaterThan(18)) // Filter on Age > 18

    .addColumns(
        numberColumn("Income").map(i -> i * 1.1).setName("AdjustedIncome")
    );


// Calculate average income
double avgIncome = result.doubleColumn("AdjustedIncome")
        .reduce(0.0, Double::sum) / result.rowCount();

Sammanfattning

map() – tillämpa en funktion för att transformera kolumnvärden
forEach() – iterera genom rader för att komma åt flera kolumner
reduce() – aggregera och sammanfatta data till enskilda värden

En bild som visar de tre datatransformationsfunktionerna

Nu kör vi en övning!

Importera data i Java