分类： 基础统计

library(torch)
# 线性层，输入特征5，输出特征16，常用于神经网络的第一层
l <- nn_linear(in_features = 5, out_features = 16)
l
l$weight
l$bias
# 生成一个尺寸为 [50, 5] 的随机张量 x，
# 其中包含50个样本，每个样本有5个特征。
# 数据服从标准正态分布。
x <- torch_randn(50, 5)
# x 传递给线性层 l，得到输出 output
output <- l(x)
# 获取并返回输出张量的尺寸，即 [50, 16]
output$size()
# 用于跟踪生成 output 张量的计算图中的梯度函数。
output$grad_fn

# 定义损失函数为output的均值
loss <- output$mean()
# loss的反向传播
loss$backward()
# 获取线性层 l 的权重参数的梯度。
# 这些梯度用于更新权重，
# 以最小化损失函数。
l$weight$grad

# 多层感知机，模型是通过 nn_sequential 组合多个神经网络模块构建
mlp <- nn_sequential(
  nn_linear(10, 32),
  nn_relu(),
  nn_linear(32, 64),
  nn_relu(),
  nn_linear(64, 1)
)

# 调用该模块
mlp(torch_randn(5, 10))

# 加载torch包
library(torch)

# 设置常量a和b
a <- 1
b <- 5

# rosenbrock函数
rosenbrock <- function(x) {
  x1 <- x[1]
  x2 <- x[2]
  (a - x1)^2 + b * (x2 - x1^2)^2
}

# 迭代数2
num_iterations <- 2

# x被初始化为一个值为-1和1的张量k
# 并且requires_grad = TRUE表示需要为该张量计算梯度。
x <- torch_tensor(c(-1, 1), requires_grad = TRUE)

# optimizer使用optim_lbfgs设置
# 这是L-BFGS优化算法的实现
# line_search_fn参数设置为"strong_wolfe"，这是一种线搜索方法
optimizer <- optim_lbfgs(x, line_search_fn = "strong_wolfe")

# calc_loss函数用于清零现有的梯度，计算Rosenbrock函数的值
# 显示该值，然后调用backward()来计算梯度。
calc_loss <- function() {
  optimizer$zero_grad()

  value <- rosenbrock(x)
  cat("Value is: ", as.numeric(value), "\n")

  value$backward()
  value
}

# 循环运行指定的迭代次数（num_iterations）
# 在每次迭代中，打印迭代次数并调用optimizer$step(calc_loss)
# 这会使用L-BFGS算法执行一次优化步骤。
for (i in 1:num_iterations) {
  cat("\nIteration: ", i, "\n")
  optimizer$step(calc_loss)
}

a <- 1
b <- 5

rosenbrock <- function(x) {
  x1 <- x[1]
  x2 <- x[2]
  (a - x1)^2 + b * (x2 - x1^2)^2
}

num_iterations <- 1000   # 迭代次数为1000

lr <- 0.01   # 学习率（步长）0.01

# 初始化一个张量，初始值为 (-1, 1)，并允许计算梯度。
x <- torch_tensor(c(-1, 1), requires_grad = TRUE)

for (i in 1:num_iterations) {
  # 每100次迭代，输出当前的迭代次数。
  if (i %% 100 == 0) cat("Iteration: ", i, "\n")

  value <- rosenbrock(x)   # 计算当前 x 处的 Rosenbrock 函数值，并在每100次迭代时输出该值。
  if (i %% 100 == 0) {
    cat("Value is: ", as.numeric(value), "\n")
  }
  # 计算函数关于 x 的梯度。
  value$backward()
  if (i %% 100 == 0) {
    cat("Gradient is: ", as.matrix(x$grad), "\n")
  }
  # 使用 with_no_grad 块更新 x 的值：x$sub_(lr * x$grad)，即沿梯度的反方向更新 x。
  with_no_grad({
    x$sub_(lr * x$grad)
    x$grad$zero_()   # x清零，用于下次迭代
  })
}
x

# 创建数据框  
data <- data.frame(  
  score = c(85, 88, 90, 78, 82, 85, 92, 95, 89),  
  method = factor(c('A', 'A', 'A', 'B', 'B', 'B', 'C', 'C', 'C'))  
)  

# 执行单因素方差分析  
result <- aov(score ~ method, data = data)  

# 查看结果  
summary(result)

# 创建数据框  
data <- data.frame(  
  score = c(85, 88, 90, 78, 82, 85, 92, 95, 89, 80, 83, 87),  
  method = factor(c('A', 'A', 'A', 'B', 'B', 'B', 'C', 'C', 'C', 'A', 'B', 'C')),  
  time = factor(c('short', 'short', 'short', 'short', 'short', 'short', 'long', 'long', 'long', 'long', 'long', 'long'))  
)  

# 执行多因素方差分析  
result <- aov(score ~ method * time, data = data)  

# 查看结果  
summary(result)

y <- torch_randn(5)  
y_pred <- y + 0.01  
loss <- (y_pred - y)$pow(2)$mean()