Let $A$ be a self adjoint bounded linear operator with a continuous spectrum $\sigma(A)=[a,b]$ which acts on a separable Hilbert space. Let $E_\lambda$ be its resolution of the identity.

For example, $A$ is an operator on $L_2(0,1)$ which acts by multiplication $$ A(x(t)):= t \cdot x(t), \ \ \ \sigma(A)=[0,1]. $$

Let $\theta=\{\lambda_0=a, \lambda_1,...,\lambda_n=b\}$ be a decomposition of an interval $[a,b]$ and let $B$ be an arbitrary bounded self adjoint operator. Let's consider the sum $$ Diag_\theta(B):=\sum_{k=1}^nE_{\Delta_k}\cdot B \cdot E_{\Delta_k}, \ \ \text{where} \ \ \Delta_k=\lambda_k-\lambda_{k-1}. $$

The question: what are the conditions on $B$ for the following sum to exist? $$ Diag(B) = \lim_{m(\theta) \to 0}Diag_\theta(B), \ \ \text{where} \ \ m(\theta)=\max_{1\leq k\leq n} \Delta_k \ $$ Meaning, when the ``diagonal'' of $B$ with respect to $A$ is well-defined?

Clearly if $A$ and $B$ commute $Diag(B)=B$. Also, if $B$ is compact $Diag(B)=0$. What is known about a general case? It would suffice to know the answer when $B$ is a projector on an infinite-dimensional subspace.

Below is the same question in Russian.

Пусть $A$ -- самосопряженный ограниченный оператор с чисто непрерывным спектром $\sigma(A)=[a,b]$, действующий на сепарабельном гильбертовом пространстве. Пусть $E_\lambda$ -- его разложение единицы.

Например, $A$ -- это оператор в $L_2(0,1)$ умножения на аргумент: $$ A(x(t)):= t \cdot x(t), \ \ \ \sigma(A)=[0,1]. $$

Пусть $\theta=\{\lambda_0=a, \lambda_1,...,\lambda_n=b\}$ -- произвольное разбиение отрезка $[a,b]$.

Пусть $B$ -- произвольный ограниченный самосопряженный оператор.

Рассмотрим сумму $$ Diag_\theta(B):=\sum_{k=1}^nE_{\Delta_k}\cdot B \cdot E_{\Delta_k}, \ \ \text{где} \ \ \Delta_k=\lambda_k-\lambda_{k-1}. $$

Вопрос: для любого ли самосопряженного ограниченного оператора $B$ существует предел $$ Diag(B) = \lim_{m(\theta) \to 0}Diag_\theta(B), \ \ \text{где} \ \ m(\theta)=\max_{1\leq k\leq n} \Delta_k \ \text{?} $$

Речь идет о существовании "диагонали" \ оператора $B$ относительно оператора $A$.

Очевидно, если операторы $A$ и $B$ коммутируют, то $Diag(B)=B$.

Если $B$ компактный оператор, то $Diag(B)=0$.

Достаточно ответить на поставленный вопрос для проектора $B$ на бесконечномерное подпространство.