Паттерны преобразования данных

Импорт данных в Java

Anthony Markham

VP Quant Developer

Функция map

Преобразует каждый элемент столбца

DoubleColumn celsius = DoubleColumn.create("Celsius", 0, 10, 20, 30);

DoubleColumn fahrenheit = celsius.map(c -> c * 9.0/5.0 + 32);
table.addColumns(fahrenheit.setName("Fahrenheit"));

Celsius	Fahrenheit
0.0	32.0
10.0	50.0
20.0	68.0
30.0	86.0

Функция reduce

Сводит все значения столбца к одному результату
Использует паттерн аккумулятора (сумма, максимум или произвольная логика)
Подходит для статистических и аналитических операций

// Find the total sales
double totalSales = table.doubleColumn("Sales").reduce(0, Double::sum);

// Find the maximum
double largeSales = table.doubleColumn("Sales").reduce(0, (acc, x) -> acc + (x > 5000 ? 1 : 0));

Итерация по строкам с forEach

Перебирает каждую строку таблицы

DoubleColumn difference = DoubleColumn.create("Difference");
table.forEach(row -> {
    double celsius = row.getDouble("Celsius");
    double fahrenheit = row.getDouble("Fahrenheit");
    difference.append(fahrenheit - celsius);
});

table.addColumns(difference);

Celsius	Fahrenheit	Difference
0.0	32.0	32.0
10.0	50.0	40.0
20.0	68.0	48.0

Пайплайны преобразования

Объединяет несколько операций в цепочку
Повышает читаемость и удобство сопровождения кода ✅
Обеспечивает эффективную обработку данных ✅

Table result = originalTable
    .where(numberColumn("Age").isGreaterThan(18)) // Filter on Age > 18

    .addColumns(
        numberColumn("Income").map(i -> i * 1.1).setName("AdjustedIncome")
    );


// Calculate average income
double avgIncome = result.doubleColumn("AdjustedIncome")
        .reduce(0.0, Double::sum) / result.rowCount();

Итоги

map() — применяет функцию для преобразования значений столбца
forEach() — перебирает строки для доступа к нескольким столбцам
reduce() — агрегирует данные и сводит их к одному значению

Изображение, демонстрирующее три функции преобразования данных

Давайте потренируемся!

Импорт данных в Java