assignmentutor™您的专属作业导师

assignmentutor-lab™ 为您的留学生涯保驾护航 在代写模拟和蒙特卡洛方法simulation and monte carlo method方面已经树立了自己的口碑, 保证靠谱, 高质且原创的统计Statistics代写服务。我们的专家在代写模拟和蒙特卡洛方法simulation and monte carlo method代写方面经验极为丰富，各种代写模拟和蒙特卡洛方法simulation and monte carlo method相关的作业也就用不着说。

• Statistical Inference 统计推断
• Statistical Computing 统计计算
• Advanced Probability Theory 高等楖率论
• Advanced Mathematical Statistics 高等数理统计学
• (Generalized) Linear Models 广义线性模型
• Statistical Machine Learning 统计机器学习
• Longitudinal Data Analysis 纵向数据分析
• Foundations of Data Science 数据科学基础

## 数学代写|模拟和蒙特卡洛方法作业代写simulation and monte carlo method代考|Shannon Entropy

One of the most celebrated measures of uncertainty in information theory is the Shannon entropy, or simply entropy. A good reference is [4], where the entropy of a discrete random variable $X$ with density $f$ is defined as
$$\mathbb{E}\left[\log 2 \frac{1}{f(X)}\right]=-\mathbb{E}\left[\log _2 f(X)\right]=-\sum{\mathscr{X}} f(x) \log _2 f(x) .$$
Here $X$ is interpreted as a random character from an alphabet $\mathscr{X}$, such that $X=x$ with probability $f(x)$. We will use the convention $0 \ln 0=0$.

It can be shown that the most efficient way to transmit characters sampled from $f$ over a binary channel is to encode them such that the number of bits required to transmit $x$ is equal to $\log 2(1 / f(x))$. It follows that $-\sum{\mathscr{X}} f(x) \log _2 f(x)$ is the expected bil lenglh required to send a randun characler $X \sim \int$; see [4].

A more general approach, which includes continuous random variables, is to define the entropy of a random variable $X$ with density $f$ by
$$\mathcal{H}(X)=-\mathbb{E}[\ln f(X)]= \begin{cases}-\sum f(x) \ln f(x) & \text { discrcte casc, } \ -\int f(x) \ln f(x) \text { d } x & \text { continuous case. }\end{cases}$$
Definition (1.46) can easily be extended to random vectors $\mathbf{X}$ as (in the continuous case)
$$\mathcal{H}(\mathbf{X})=-\mathbb{E}[\ln f(\mathbf{X})]=-\int f(\mathbf{x}) \ln f(\mathbf{x}) \mathrm{d} \mathbf{x} .$$
$\mathcal{H}(\mathbf{X})$ is often called the joint entropy of the random variables $X_1, \ldots, X_n$, and it is also written as $\mathcal{H}\left(X_1, \ldots, X_n\right)$. In the continuous case, $\mathcal{H}(\mathbf{X})$ is frequently referred to as the differential entropy to distinguish it from the discrete case.

## 数学代写|模拟和蒙特卡洛方法作业代写simulation and monte carlo method代考|Kullback–Leibler Cross-Entropy

Let $g$ and $h$ be two densities on $\mathscr{X}$. The Kullback-Leibler cross-entropy between $g$ and $h$ (compare with (1.47)) is defined (in the continuous case) as
\begin{aligned} \mathcal{D}(g, h) &=\mathbb{E}_g\left[\ln \frac{g(\mathbf{X})}{h(\mathbf{X})}\right] \ &=\int g(\mathbf{x}) \ln g(\mathbf{x}) \mathrm{d} \mathbf{x}-\int g(\mathbf{x}) \ln h(\mathbf{x}) \mathrm{d} \mathbf{x} . \end{aligned}
$\mathcal{D}(g, h)$ is also called the Kullback-Leibler divergence, the cross-entropy, and the relative entropy. If not stated otherwise, we will call $\mathcal{D}(g, h)$ the cross-entropy (CE) between $g$ and $h$. Notice that $\mathcal{D}(g, h)$ is not a distance between $g$ and $h$ in the formal sense, since in general $\mathcal{T}(g, h) \neq \mathcal{D}(h, g)$. Nonetheless, it is often $11 s e f u l$ to think of $\mathcal{D}(g, h)$ as a distance because
$$\mathcal{D}(g, h) \geqslant 0$$ and $\mathcal{D}(g, h)=0$ if and only if $g(x)=h(x)$. This follows from Jensen’s inequality (if $\phi$ is a convex function, such as $-\ln$, then $\mathbb{E}[\phi(X)] \geqslant \phi(\mathbb{E}[X])$ ). Namely
$$\mathcal{D}(g, h)=\mathbb{E}g\left[-\ln \frac{h(\mathbf{X})}{g(\mathbf{X})}\right] \geqslant-\ln \left{\mathbb{E}_g\left[\frac{h(\mathbf{X})}{g(\mathbf{X})}\right]\right}=-\ln 1=0 .$$ It can be readily seen that the mutual information $\mathcal{M}(\mathbf{X}, \mathbf{Y})$ of vectors $\mathbf{X}$ and $\mathbf{Y}$ defined in (1.51) is related to the $\mathrm{CE}$ in the following way: $$\mathcal{M}(\mathbf{X}, \mathbf{Y})=\mathcal{D}\left(f, f{\mathbf{X}} f_{\mathbf{Y}}\right)=\mathbb{E}f\left[\ln \frac{f(\mathbf{X}, \mathbf{Y})}{f{\mathbf{X}}(\mathbf{X}) f_{\mathbf{Y}}(\mathbf{Y})}\right]$$
where $f$ is the (joint) pdf of $(\mathbf{X}, \mathbf{Y})$ and $f_{\mathbf{X}}$ and $f_{\mathbf{Y}}$ are the (marginal) pdfs of $\mathbf{X}$ and $\mathbf{Y}$, respectively. In other words, the mutual information can be viewed as the $\mathrm{CE}$ that measures the distance between the joint pdf $f$ of $\mathbf{X}$ and $\mathbf{Y}$ and the product of their marginal pdfs $f_{\mathbf{X}}$ and $f_{\mathbf{Y}}$, that is, under the assumption that the vectors $\mathbf{X}$ and $\mathbf{Y}$ are independent.

# 模拟和蒙特卡洛方法代写

## 数学代写|模拟和蒙特卡洛方法作业代写simulation and monte-carlo method代考|香农熵

$$\mathbb{E}\left[\log 2 \frac{1}{f(X)}\right]=-\mathbb{E}\left[\log _2 f(X)\right]=-\sum{\mathscr{X}} f(x) \log _2 f(x) .$$

$$\mathcal{H}(X)=-\mathbb{E}[\ln f(X)]= \begin{cases}-\sum f(x) \ln f(x) & \text { discrcte casc, } \ -\int f(x) \ln f(x) \text { d } x & \text { continuous case. }\end{cases}$$

$$\mathcal{H}(\mathbf{X})=-\mathbb{E}[\ln f(\mathbf{X})]=-\int f(\mathbf{x}) \ln f(\mathbf{x}) \mathrm{d} \mathbf{x} .$$
$\mathcal{H}(\mathbf{X})$通常被称为随机变量的联合熵$X_1, \ldots, X_n$，也可以写成$\mathcal{H}\left(X_1, \ldots, X_n\right)$。在连续的情况下，$\mathcal{H}(\mathbf{X})$经常被称为微分熵，以区别于离散的情况

## 数学代写|模拟和蒙特卡洛方法作业代写simulation and monte-carlo method代考| Kullback-Leibler Cross-Entropy

\begin{aligned} \mathcal{D}(g, h) &=\mathbb{E}_g\left[\ln \frac{g(\mathbf{X})}{h(\mathbf{X})}\right] \ &=\int g(\mathbf{x}) \ln g(\mathbf{x}) \mathrm{d} \mathbf{x}-\int g(\mathbf{x}) \ln h(\mathbf{x}) \mathrm{d} \mathbf{x} . \end{aligned}
$\mathcal{D}(g, h)$ 也被称为Kullback-Leibler散度、交叉熵和相对熵。如果没有特别说明，我们会打电话的 $\mathcal{D}(g, h)$ 交叉熵(CE) $g$ 和 $h$。注意到 $\mathcal{D}(g, h)$ 不就是距离吗 $g$ 和 $h$ 在正式意义上，因为一般 $\mathcal{T}(g, h) \neq \mathcal{D}(h, g)$。尽管如此，它经常发生 $11 s e f u l$ 想到 $\mathcal{D}(g, h)$ 因为
$$\mathcal{D}(g, h) \geqslant 0$$ 和 $\mathcal{D}(g, h)=0$ 当且仅当 $g(x)=h(x)$。这是由Jensen不等式(if $\phi$ 是凸函数，如 $-\ln$，那么 $\mathbb{E}[\phi(X)] \geqslant \phi(\mathbb{E}[X])$ )。即
$$\mathcal{D}(g, h)=\mathbb{E}g\left[-\ln \frac{h(\mathbf{X})}{g(\mathbf{X})}\right] \geqslant-\ln \left{\mathbb{E}_g\left[\frac{h(\mathbf{X})}{g(\mathbf{X})}\right]\right}=-\ln 1=0 .$$ 可以很容易地看出互信息 $\mathcal{M}(\mathbf{X}, \mathbf{Y})$ 矢量的 $\mathbf{X}$ 和 $\mathbf{Y}$ 在(1.51)中定义的 $\mathrm{CE}$ 用以下方法: $$\mathcal{M}(\mathbf{X}, \mathbf{Y})=\mathcal{D}\left(f, f{\mathbf{X}} f_{\mathbf{Y}}\right)=\mathbb{E}f\left[\ln \frac{f(\mathbf{X}, \mathbf{Y})}{f{\mathbf{X}}(\mathbf{X}) f_{\mathbf{Y}}(\mathbf{Y})}\right]$$
where $f$ 的(联合)PDF $(\mathbf{X}, \mathbf{Y})$ 和 $f_{\mathbf{X}}$ 和 $f_{\mathbf{Y}}$ 的(边际)pdf文件 $\mathbf{X}$ 和 $\mathbf{Y}$，分别。换句话说，互信息可以被看作 $\mathrm{CE}$ 它测量了关节PDF之间的距离 $f$ 的 $\mathbf{X}$ 和 $\mathbf{Y}$ 和它们的边际PDFS的乘积 $f_{\mathbf{X}}$ 和 $f_{\mathbf{Y}}$，也就是假设向量 $\mathbf{X}$ 和 $\mathbf{Y}$

## 有限元方法代写

assignmentutor™作为专业的留学生服务机构，多年来已为美国、英国、加拿大、澳洲等留学热门地的学生提供专业的学术服务，包括但不限于Essay代写，Assignment代写，Dissertation代写，Report代写，小组作业代写，Proposal代写，Paper代写，Presentation代写，计算机作业代写，论文修改和润色，网课代做，exam代考等等。写作范围涵盖高中，本科，研究生等海外留学全阶段，辐射金融，经济学，会计学，审计学，管理学等全球99%专业科目。写作团队既有专业英语母语作者，也有海外名校硕博留学生，每位写作老师都拥有过硬的语言能力，专业的学科背景和学术写作经验。我们承诺100%原创，100%专业，100%准时，100%满意。

## MATLAB代写

MATLAB 是一种用于技术计算的高性能语言。它将计算、可视化和编程集成在一个易于使用的环境中，其中问题和解决方案以熟悉的数学符号表示。典型用途包括：数学和计算算法开发建模、仿真和原型制作数据分析、探索和可视化科学和工程图形应用程序开发，包括图形用户界面构建MATLAB 是一个交互式系统，其基本数据元素是一个不需要维度的数组。这使您可以解决许多技术计算问题，尤其是那些具有矩阵和向量公式的问题，而只需用 C 或 Fortran 等标量非交互式语言编写程序所需的时间的一小部分。MATLAB 名称代表矩阵实验室。MATLAB 最初的编写目的是提供对由 LINPACK 和 EISPACK 项目开发的矩阵软件的轻松访问，这两个项目共同代表了矩阵计算软件的最新技术。MATLAB 经过多年的发展，得到了许多用户的投入。在大学环境中，它是数学、工程和科学入门和高级课程的标准教学工具。在工业领域，MATLAB 是高效研究、开发和分析的首选工具。MATLAB 具有一系列称为工具箱的特定于应用程序的解决方案。对于大多数 MATLAB 用户来说非常重要，工具箱允许您学习应用专业技术。工具箱是 MATLAB 函数（M 文件）的综合集合，可扩展 MATLAB 环境以解决特定类别的问题。可用工具箱的领域包括信号处理、控制系统、神经网络、模糊逻辑、小波、仿真等。

assignmentutor™您的专属作业导师
assignmentutor™您的专属作业导师