Шаблони перетворення даних

Імпорт даних у Java

Anthony Markham

VP Quant Developer

Функція map

Перетворює кожен елемент у стовпці

DoubleColumn celsius = DoubleColumn.create("Celsius", 0, 10, 20, 30);

DoubleColumn fahrenheit = celsius.map(c -> c * 9.0/5.0 + 32);
table.addColumns(fahrenheit.setName("Fahrenheit"));

Celsius	Fahrenheit
0.0	32.0
10.0	50.0
20.0	68.0
30.0	86.0

Функція reduce

Обʼєднує всі значення стовпця в один результат
Застосовує акумуляторний шаблон (сума, максимум або власна логіка)
Корисно для статистичних й аналітичних операцій

// Find the total sales
double totalSales = table.doubleColumn("Sales").reduce(0, Double::sum);

// Find the maximum
double largeSales = table.doubleColumn("Sales").reduce(0, (acc, x) -> acc + (x > 5000 ? 1 : 0));

Ітерація рядків із forEach

Ітерується рядками таблиці

DoubleColumn difference = DoubleColumn.create("Difference");
table.forEach(row -> {
    double celsius = row.getDouble("Celsius");
    double fahrenheit = row.getDouble("Fahrenheit");
    difference.append(fahrenheit - celsius);
});

table.addColumns(difference);

Celsius	Fahrenheit	Difference
0.0	32.0	32.0
10.0	50.0	40.0
20.0	68.0	48.0

Конвеєри перетворень

Ланцюжіть кілька операцій
Підвищує читабельність і підтримуваність коду ✅
Ефективна обробка даних ✅

Table result = originalTable
    .where(numberColumn("Age").isGreaterThan(18)) // Filter on Age > 18

    .addColumns(
        numberColumn("Income").map(i -> i * 1.1).setName("AdjustedIncome")
    );


// Calculate average income
double avgIncome = result.doubleColumn("AdjustedIncome")
        .reduce(0.0, Double::sum) / result.rowCount();

Підсумок

map() — застосувати функцію для перетворення значень стовпця
forEach() — ітеруватися рядками, щоб звертатись до кількох стовпців
reduce() — агрегувати й підсумовувати дані до одиничних значень

Зображення, що показує три функції перетворення даних

Давайте потренуємось!

Імпорт даних у Java