CUDA [ 12 ] 是NVIDIA公司在2007年提出的一种基于本公司GPU的可以进行通用计算并且编程性较好的编程模型，是一种利用GPU与CPU协同进行计算的编程模型。在CUDA中，CPU被称作主机，GPU被称作设备。为了使开发者可以更快的使用CUDA编程平台进行开发，CUDA的编程语言采用了扩展后的类C语言—CUDA C。使用CUDA C可以直接编写可以运行在GPU上的程序而不需要懂得OpenGL或者Direct3D等API [ 13 ] 。在NVIDIA的官方文档CUDA C Programming Guide Version 7.5中，CUDA的核心主要在三个抽象概念：线程组层次结构(a hierarchy of thread groups)，共享内存(shared memories)，障栅同步(barrier synchronization) [ 3 ] 。正是由于这些抽象，CUDA可以提供细粒度的线程并行和数据并行。较细粒度的并行线程组成线程块 [ 3 ] ，从而使CUDA可以提供粗粒度的任务并行和数据并行。正是由于这些抽象，程序员可以把一些大的计算任务进行数据划分，划分成无数小的数据集合，每个线程对一个小数据集合进行处理，从而提高程序的运行效率。

CUDA的软件栈是按照层次结构来组织的，如图1所示。CUDA为开发者提供了一套夸平台的支撑软件来方便程序员更加容易和灵活的开发CUDA程序。如图1所示CUDA的软件层次是：CUDA函数库，CUDA运行时API，CUDA驱动API。CUDA库函数是NVIDIA已经写好的一些函数，程序员可以在应用程序中直接调用，从而节约开发时间。而CUDA运行时API和CUDA驱动API实现GPU内存的分配以及核函数 [ 3 ] 的启动等一些GPU资源管理的函数接口。

图1. CUDA软件架构图

CUDA应用程序代码包含两部分：一部分是运行在GPU上的设备代码 [ 10 ] ，一部分是运行在CPU上的主机代码 [ 14 ] 。NVCC (NVIDIA C Compiler) [ 2 ] 在编译CUDA应用程序时，如图2所示。NVCC根据CUDA关键字把设备代码和主机代码区分开来。NVCC把这部分主机代码(用ANSI C编写的简单代码)发送到标准C或者C++编译器进一步编译，编译后以一个普通的CPU进行的方式进行运行。而用CUDA关键字标记的设备代码通常再由NVCC编译器进一步编译，并在GPU上运行。

在GPU运行的代码是并行代码，运行这些并行代码的实体是在启动CUDA程序时配置的CUDA线程。在启动核函数时，会产生无数的线程来执行这些并行的代码。CUDA将串行的事物处理，如初始化GPU设备、准备数据、分配显存、主机与设备间数据传输等操作放在GPU上运行。而一些需要大量线程实现来对数据进行计算的并行任务放在GPU上运行。

在支持CUDA的GPU中，GPU本质上是一个线程处理器群TPC [ 1 ] (Thread Processing Cluster)，TCP的核心是流多处理器SM [ 1 ] (Streaming Multiprocessor)。由若干个SM组成GPU，不同的设备所包含的SM数量不同。每个SM由若干个SP (Streaming Processor) [ 2 ] 组成，每个流处理器SP拥有独立的寄存器和指令指针，并且拥有自己私有的一组32位的寄存器，但是没有取指和调度单元。在一个SM中的所有SP共用一套取指和发射单元，常量缓存、纹理缓存以及共享内存也是SM中所有的SP所共享的。SM是一个完整的核心，拥有完成的前端，包括取指、译码、发送指令、执行单元等，所以SM可以完成线程的创建、调度，而线程的执行由SP完成。一个SM类似于CPU中的一个核。

CUDA异构编程架构的硬件由两部分组成，一部分是CPU，也称作主机 [ 2 ] (Host)，另一部分是是协处理器(co-processor) GPU，也称作是设备。在CUDA异构系统中可以由一个主机和若干个GPU搭配组成。正如前面我们提到的GPU与CPU各有分工，相互合作。计算量比较小的串行计算和逻辑比较复杂的事务性处理都放在CPU上运行，而运算量比较大，数据依赖性比较小的大规模数据处理放在GPU上运行。运行在GPU上的代码叫做设备代码，也成为内核函数(kernel) [ 2 ] 。运行在CPU上的代码成为主机代码。通过主机端调用核函数，那么再设备上就会有大量的线程实体来执行核函数代码。为了管理大量

图2. CUDA C编译过程图

的运行在GPU上的线程，CUDA采用了层次结构来管理这些线程。CUDA把运行在GPU上大量的相处划分成维度和大小都相同的线程块(Block)，这些线程块再按照一定的方式排列成线程网格(Grid)。

在CUDA的线程网格中，每个线程块都有一个唯一的标识线程块ID，在线程块中为了标识每一个线程，每个线程都有一个唯一的线程ID。标识线程块ID的内置变量是blockIdx，而标识线程ID的内置变量是threadIdx。运行在GPU上的所有线程组成了线程网格，线程网格grid可以是一维的，也可以二维的，也可以是三维的，同样的组成线程网格的线程块也可以是一维、二维或者三维。而用来表示线程网格维度的内置变量是gridDim，用来表示线程块维度的内置变量是blockDim。gridDim，blockDim，blockIdx，threadIdx这四个内置变量的类型都是CUDA中定义的一个新的数据类型dim3。其实dim3这个数据是由uint3实现的一个结构体。在启动核函数时，会在GPU上产生相应的线程来执行并行代码，线程的数量是由<<<>>>语法来指定的。例如一个核函数testKernal<<<32,128>>>(…)被调用，那么再GPU上就会启动32 × 128个线程，其中32是线程网格中线程块的数量，128是线程块中线程网格的数量。在GPU执行的线程块还会被划分成一个逻辑单位叫线程束(warp)，每个线程束一般是32个线程组成，warp是CUDA中的最小执行单位。

GPU的存储器的种类以及层次相比于CPU会非常的复杂，每一种存储器的存取速度以及存储容量都不一样。GPU的存储器包括寄存器存、局部存储器、全局存储器、常量存储器、纹理存储器、共享内存等。在线程网格中，每个线程根据自己的情况所能访问的存储器也不同。在图3中，可以看出每个线

图3. 存储器层次图

程都有私有的寄存器和局部内存。每个线程块都有一块供线程块内所有线程所共享的共享存储器。在线程网格中的所有线程都可以访问全局内存即显存。另外还有两个对线程网格中所有线程都可以访问的只读存储器：常量内存和纹理内存。

定义(2.1)：给定空间n + 1个点的位置矢量 P i ( i = 0 , 1 , 2 , ⋯ , n ) ，则Bezier曲线段的参数方程表示如下：

p ( t ) = ∑ i = 0 n P i B i , n ( t ) ,     t ∈ [ 0 , 1 ] [ 10 ] [ 11 ] (2.1)

其中 P i ( x i , y i , z i ) , i = 0 , 1 , 2 , ⋯ , n 是控制多边形的n + 1个顶点，即构成曲线的特征多边形或者称为控制多边形， P i ( x i , y i , z i ) 称为控制定点。B_i,n(t)是伯恩斯坦多项式，其形式如下：

B i , n ( t ) = C n i t i ( 1 − t ) n − i = n ！ i ! ( n − 1 ) ! t i ( 1 − t ) n − i ,     ( i = 0 , 1 , 2 , ⋯ , n ) [ 10 ] [ 11 ] (2.2)

在图4中展示了3阶4个顶点的Bézier曲线。

在公式(2.1)中可以看到，贝塞尔曲线是由控制定点和伯恩斯坦基函数线性组合生成的，那么伯恩斯坦多项式的性质就决定了贝塞尔曲线的性质。因此贝塞尔曲线具有如下性质：

1) 端点性质。

Bézier曲线的起点和终点与控制多边形的起点和终点重合。

2) 切矢量。

Bézier曲线的起点处的切线方向与特征多边形的第一条边走向一样，终点处的切线方向和特征多边形最后一条边走向一样。

3) 对称性。

由控制顶点 P i * = P n − i ,   ( i = 0 , 1 , 2 , ⋯ , n ) ，构造出的新的Bézier曲线与原Bézier曲线形状相同，但走向相反。

图4. 三阶贝塞尔曲线图

4) 凸包性。

在几何图形上，这就表示Bézier曲线P(t)在 t ∈ [ 0 , 1 ] 上，落在 p i 构成的凸多变形中。

5) 几何不变性。

因为采取的是参数方程来表示Bézier曲线，所以具有几何不变性，即一些几何特性不随坐标的变换而变化的特性。

6) 变差缩减性。

若Bézier曲线的特征多边形是一个平面图形，则平面内任意直线与p(t)的交点个数不多于该直线与其特征多边形的交点个数，这一性质叫变差缩减性质。此性质反映了Bézier曲线比其特征多边形的波动还小，也就是说Bézier曲线比特征多边形的折线更光顺。

在串行算法中，根据公式(2.1)进行Bézier曲线上采样点的计算时，要求的每个采样点之间是没有依赖关系的。所有的采样点计算都依赖于两部分：一是输入的Bézier曲线控制顶点，二是Bézier曲线控制顶点前面的Bernstein基函数的值。例如我们用513个点来刻画一条Bézier曲线，那么再串行算法中就是每次计算一个采样点，需要做一个513次的循环，每次循环根据公式(2.1)与公式(2.2)来计算一个Bézier曲线的采样点。在公式(2.2)中有一个变量t，t值的计算和采样点的需要有关系。例如一个Bézier曲线是由513个采样点进行刻画，那么当第一个采样点对应的t值就是0/512，第二个采样点对应的t值就是1/512，依次类推，最后一个采样对应的采样点的t值就是512/512。按照这种方法所得到的t值就满足在区间[0, 1]上。

在前面描述的串行算法中，可以看到在计算Bézier曲线上的采样点时是通过循环，并且各个采样点之间并没有依赖关系。因此采样点的计算可以并行化，即采样点的计算可以通过多线程同时进行。所以我们可以把对采样点求值的串行循环部分进行展开，对采样点的计算并行化。

并行算法思想的描述：

1) 在设备上分配用于存储控制顶点以及曲线采样点的设备内存。输入控制顶点以及控制顶点数m，

2) 输入采样点的数N，N的值要是32的整数倍

3) 把控制定点的数据以及计算出的二项式系数传输到设备

4) 启动核函数，启动N/32个线程块，每个线程块32个线程

5) 根据线程块的blockIdx.x以及线程的threadIdx.x，还有blockDim.x来计算每个线程的序号，每个线程的序号就是要计算的采样点的序号。设线程的序号tid=threadIdx.x+blockIdx.x*blockDim.x

6) 根据计算的tid来计算以及N的值按照t=(tid/N)来计算t的值

7) 根据t的值以及控制顶点的坐标对Bézier曲线上的所有采样点同时进行计算

8) 把计算好的采样点坐标值传输回主机

9) 释放设备端分配的内存

在上述算法的描述中步骤(5)、(6)、(7)都是运行在GPU上的。在GPU上运行的示意图如图5所示。

在图5中，在GPU上开辟N个线程，T0, T1, T2, ∙∙∙, Tn-2, Tn-1就是GPU上开启的线程，每个线程计算Bézier曲线上的一个采样点，并把计算完的采样点存入相应的设备内存中。

根据4.1节中的对Bézier曲线生成算法的描述，我们知道对Bézier曲线上采样点的计算进行化。在本节我们给出算法的核心部分。

1) 数据结构设计

每一个点用一个结构体进行表示，因此我们定义结构体Point来表示一个点结构体定义如下：

typedef struct Point{//结构体Point用于存放点

float x;

float y;

}Point;

2) 设备内存分配

对采样点进行计算的输入时控制顶点，控制顶点在计算过程中是只读的。因此未来在计算采样点时对控制顶点的读取更快，把控制顶点的值放在设备上的常量内存，设备上常量内存的定义在主机端进行定义，定义形式如下：

如果想要把主机内存的数据传输到设备的常量内存，必须要用特殊的主机设备传输函数cudaMemcpyToSymbol(destAdd,srcAdd,size);，在cudaMemcpyToSymbol()函数中有三个参数，第一个参数destAdd代表目的地址，srcAdd代表源地址，size代表要传输的数据的大小，单位是字节。所以输入控制顶点的代码以及二项式系数的代码如下：

cudaMemcpyToSymbol(dev_cltpoints,host_ctlpoints,sizeof(Point)*M);

cudaMemcpyToSymbol(dev_bin,host_bin,sizeof(float)*M);

除了上述的控制顶点，还需要在设备中分配输出缓存用来存储求出的采样点的坐标，因为需要对输

图5. GPU计算采样点简图

出缓存进行写操作，因此不能声明为constant内存。所以需要把输出缓存放在全局设备内存中，分配代码如下：

cudaMalloc((void**)dev_points,sizeof(Point)*N);

cudaMemset(dev_points,0,N*sizeof(Point));//把分配的设备内存初始化为0

3) 二项式的计算

在公式(2.2)中有一个 C n i = n ! i ! ( n − 1 ) ! 的计算，其中n代表Bézier曲线的阶数，i代表控制顶点的序号，

且 i ∈ [ 0 , n ] 。设置一个设备函数__device__ int computeBin(int n,int i)来计算每个采样点前的二项式的值。

4) Bézier曲线上采样点的计算

在做完分配好内存，传输数据后的准备工作后，便可以来计算Bézier曲线上的采样点了，其计算函数的代码如下：

启动内核函数的代码如下：

computeBezier<<<(N+63)/64,64>>>(dev_points);

5) 最后清理

在计算完所有的采样点坐标后，需要把计算好的坐标从设备内存传输回主机内存，并把分配的空间进行释放。

代码如下：

cudaMemcpy(host_points,dev_points,N*sizeof(Point),cudaMemcpyDeviceToHost);//把计算好的采样点坐标传输回主机缓冲区。

cudaFree(dev_points);//对cudaMalloc()分配的设备内存进行释放。